Luo Mai

サイン波の位置エンコーディングは、機械学習タスクでの学習とパフォーマンスを向上させるよ。

Mixture-of-Expertsのアーキテクチャが言語モデルの性能をどうやって向上させるか。