Diederik P. Kingma

Adam-mini reduce el uso de memoria para entrenar modelos de lenguaje grandes sin sacrificar el rendimiento.

Un nuevo método mejora el entrenamiento de modelos mientras reduce los retrasos en la comunicación.