Yingyu Liang

Une nouvelle méthode améliore le calcul des ellipsoïdes de John tout en protégeant les données sensibles.

SparseGPT améliore la vitesse et l'efficacité des grands modèles de langage grâce à l'élagage des paramètres.

Une nouvelle méthode améliore les calculs de gradient, rendant les transformeurs plus efficaces en apprentissage automatique.

Une méthode pour améliorer l'efficacité des modèles de langage avec de longs textes.

Explorer les capacités et les défis de la technologie des Transformers pour comprendre le langage.

Un coup d'œil sur comment les MHNs peuvent améliorer l'apprentissage automatique.

Un aperçu de Mamba et des modèles d'état-espace dans les capacités de l'IA.

Découvrez comment l'attention tensorielle transforme le traitement du langage par l'IA.

De nouvelles méthodes améliorent l'attention RoPE, accélérant considérablement les calculs d'IA.