Congliang Chen

Adam-miniは、大きな言語モデルのトレーニングにおけるメモリ使用量を減らしつつ、パフォーマンスを維持するんだ。

新しいアプローチが言語モデルの応答を改善し、オーバーフィッティングを減らす。

二層最適化手法とその機械学習モデルへの影響についての考察。