Yingyan Celine Lin

Recherche sur l'amélioration de l'efficacité des modèles de langage en utilisant une attention linéaire et un décodage spéculatif.

Explorer comment les puits d'attention impactent la performance des modèles de langage et introduire une technique d'étalonnage.

Un nouveau cadre améliore la façon dont les grands modèles de langage peuvent fonctionner sur des appareils edge.

Un nouveau système améliore l'adaptabilité des grands modèles de langage sur différents appareils.