Diederik P. Kingma

Adam-miniは、大きな言語モデルのトレーニングにおけるメモリ使用量を減らしつつ、パフォーマンスを維持するんだ。

新しい方法がモデルのトレーニングを向上させて、コミュニケーションの遅延を減らすんだ。