Acyr Locatelli

Un nuevo método reduce el tamaño de la caché KV mientras mantiene un alto rendimiento del modelo.

BAM mejora la eficiencia de MoE al integrar parámetros de atención y FFN.

Nexus combina eficiencia, especialización y adaptabilidad en el desarrollo de modelos de lenguaje.