Yichuan Deng

大きな言語モデルのトレーニングにおけるソフトマックスの影響と最近の進展を探る。

ソフトマックス-ReLU回帰とその言語モデルへの影響を詳しく見てみよう。

クラスタリングした文脈バンディットを使ってリワードとリソースをバランスさせる方法。

スパースアテンションが言語モデルの処理をどう改善するか発見しよう。