Yichuan Deng

Esplorare l'ottimizzazione attraverso i polinomi iperbolici e le loro applicazioni.

Esplorando l'impatto del softmax sull'addestramento di modelli linguistici grandi e i recenti progressi.

Uno sguardo più da vicino alla regressione softmax-ReLU e al suo impatto sui modelli linguistici.

Un metodo per bilanciare ricompense e risorse usando banditi contestuali raggruppati.

Scopri come l'attenzione sparsa migliora l'elaborazione nei modelli linguistici.