Yuhong Li

Une nouvelle méthode réduit la taille du cache KV tout en maintenant une bonne performance du modèle.

Cet article parle des récents développements pour améliorer l'efficacité des grands modèles de langage.