Haoran You

Recherche sur l'amélioration de l'efficacité des modèles de langage en utilisant une attention linéaire et un décodage spéculatif.

Un nouveau cadre améliore la façon dont les grands modèles de langage peuvent fonctionner sur des appareils edge.