Diederik P. Kingma

Adam-mini reduziert den Speicherverbrauch beim Training grosser Sprachmodelle, ohne die Leistung zu beeinträchtigen.

Eine neue Methode verbessert das Training von Modellen und reduziert gleichzeitig Kommunikationsverzögerungen.