Deming Chen

Un nuevo método acelera la generación de texto de LLM usando cabezas de predicción adicionales.

Un nuevo enfoque mejora el aprendizaje federado al abordar efectivamente a los clientes lentos.

Un nuevo método reduce el tamaño de la caché KV mientras mantiene un alto rendimiento del modelo.

Este artículo habla sobre los desarrollos recientes para mejorar la eficiencia en los Modelos de Lenguaje Grande.