Simple Science

最先端の科学をわかりやすく解説

計算効率 に関する最新の記事

計算と言語AdaZeta: メモリ効率の良いファインチューニングへの新しいアプローチ

AdaZetaは、大規模言語モデルのファインチューニングでメモリ使用量を減らしつつ、パフォーマンスを向上させる。

― 1 分で読む

分散・並列・クラスターコンピューティングウォールフェイサー: 長いシーケンストレーニングのための新しいシステム

WallFacerは、最適化されたコミュニケーションを使って長いシーケンスのTransformerモデルのトレーニング効率を向上させる。

― 1 分で読む

機械学習ニューラルネットワークの微調整への新しいアプローチ

ニューラルモデルの効率的なファインチューニングのためのグループ・アンド・シャッフル行列を紹介します。

― 1 分で読む