Un nouveau système de cache améliore l'utilisation des ressources et s'adapte aux charges de travail changeantes.
― 7 min lire
Pengfei Zuo
AttentionStore améliore l'efficacité des conversations avec les modèles de langue en réutilisant des caches passés.
― 8 min lire