Pengcheng He

Évaluer la capacité des LLM à détecter des instructions nuisibles dans les demandes des utilisateurs.

HERON simplifie la conception des récompenses, améliorant l'efficacité et la flexibilité de l'apprentissage par renforcement.

Une nouvelle méthode améliore l'efficacité des modèles de langage sans sacrifier la qualité.