Yingyan Celine Lin

Pesquisa sobre como melhorar a eficiência de modelos de linguagem usando atenção linear e decodificação especulativa.

Explorando como os sinks de atenção impactam o desempenho dos modelos de linguagem e apresentando uma técnica de calibração.

Um novo framework melhora como os grandes modelos de linguagem podem funcionar em dispositivos de borda.

Um novo sistema melhora a adaptabilidade de grandes modelos de linguagem em diferentes dispositivos.