Derniers articles pour Formation du modèle

Examiner comment les étiquettes souples améliorent l'apprentissage automatique grâce à la distillation des ensembles de données.

Discuter des méthodes pour améliorer la gestion des données dans l'entraînement de grands modèles d'IA.

Le Twin-Merging améliore l'efficacité du mélange de modèles et leur adaptabilité à différentes tâches.

Apprends comment le désapprentissage ciblé protège la vie privée en permettant aux modèles d'oublier des infos spécifiques.

Un nouveau cadre s'attaque aux défis de la distillation des connaissances pour les données à longue traîne.

Présentation d'une méthode flexible pour les taux d'apprentissage qui améliore les performances du modèle sans calendriers prédéfinis.

Cet article examine FS-GEN, qui combine de gros et petits modèles pour de meilleurs résultats.

DIPS s'attaque aux problèmes de qualité des données dans le pseudo-étiquetage pour de meilleurs résultats en apprentissage automatique.

Une nouvelle méthode améliore la sélection d'exemples et l'optimisation des instructions pour les grands modèles de langage.

Un nouveau critère pour l'oubli machine améliore l'évaluation et la comparaison des méthodes.

Examiner comment les LLMs montrent des traits de personnalité avec de nouvelles méthodes de test.

LoTA propose une approche plus intelligente pour adapter les modèles de langage à plusieurs tâches.

Un regard sur le rôle de la complexité dans la performance des modèles.

Explorer les lois de conservation et leur rôle dans des scénarios complexes de machine learning.

Examiner comment les couches de normalisation influencent la performance des transformateurs et la gestion des tâches.

Cette étude se concentre sur l'amélioration des réponses des modèles en visant des exigences de longueur spécifiques.

Améliorer le traitement des données grâce au partage des connaissances entre différents types de données.

Un regard sur la relation entre la taille du modèle et l'efficacité des données d'entraînement.

Une nouvelle approche améliore l'ajustement de la température dans la distillation des connaissances pour un meilleur entraînement des modèles.

Des recherches montrent que les modèles de langage ont du mal avec le raisonnement faux, ce qui soulève des préoccupations en matière de sécurité.

Cette étude explique comment les transformateurs utilisent le contexte dans la prédiction de langage.

HyperLoader améliore l'entraînement de modèles multi-tâches avec des techniques innovantes et des hyperréseaux.

Cet article examine comment les petits modèles de langage apprennent à gérer le bruit dans les données.

Enquêter sur comment les réseaux de neurones apprennent des caractéristiques pendant l'entraînement.

Ce papier examine les facteurs qui influencent la capacité des réseaux de neurones à généraliser à partir des données.

Un aperçu de l’efficacité de GPT et RETRO dans l’adaptation des modèles linguistiques avec PEFT et RAG.

Les modèles de diffusion masqués montrent du potentiel dans la modélisation générative pour le texte et les images.

Cet article explore la surparamétrisation et son impact sur l'efficacité de l'entraînement des modèles.

Examiner comment l'entraînement influence la performance du modèle dans des situations adversariales.

Une nouvelle méthode minimise les caractéristiques trompeuses dans l'apprentissage automatique avec moins d'effort humain.

Cet article parle de comment éviter l'effondrement des modèles en utilisant une meilleure sélection de données et des retours.

Une étude révèle des liens clés sur le fonctionnement des grands modèles de langage.

Cette étude examine comment l'initialisation affecte le finetuning des modèles préentraînés en utilisant LoRA.

Apprends comment le réchauffement peut améliorer la performance d'entraînement des modèles en deep learning.

Une plongée profonde dans comment la descente de gradient stochastique optimise la performance des modèles.

SPCL améliore la stabilité de l'entraînement des modèles dans les environnements multi-tâches.

Une nouvelle méthode d'emballage améliore la vitesse d'entraînement et l'utilisation des ressources dans les modèles de langue.

Cet article parle des méthodes de réentraînement en utilisant les prédictions des modèles pour une meilleure précision.

Des recherches montrent comment le décodage MBR améliore la qualité de traduction dans des modèles plus petits.

Explorer comment le sondage contextuel et les fonctions d’influence améliorent la sélection de données pour les modèles.