Diederik P. Kingma

Adam-mini réduit l'utilisation de la mémoire pour entraîner de grands modèles de langage tout en gardant de bonnes performances.

Une nouvelle méthode améliore l'entraînement des modèles tout en réduisant les délais de communication.