Haoran You

Forschung zur Verbesserung der Effizienz von Sprachmodellen mit linearer Aufmerksamkeit und spekulativem Decoding.

Ein neues Framework verbessert, wie grosse Sprachmodelle auf Edge-Geräten funktionieren können.