Deming Chen

Um novo método acelera a geração de texto em LLM usando cabeçotes de previsão adicionais.

Uma nova abordagem melhora o aprendizado federado ao lidar com clientes lentos de forma eficaz.

Um novo método reduz o tamanho do cache KV enquanto mantém um alto desempenho do modelo.

Esse artigo fala sobre as novidades recentes pra melhorar a eficiência em Modelos de Linguagem Grande.