Feiyang Kang

Une nouvelle façon d'estimer comment les données d'entraînement influencent les prédictions du modèle.

Cette méthode améliore le réglage fin des modèles de langue en utilisant des jeux de données ouverts et non étiquetés.

AutoScale améliore le mélange de données pour un entraînement efficace des grands modèles de langage.