自己注意メカニズムの探求自己注意メカニズムの探求テンションの役割を調べる。言語モデルのトレーニングにおけるセルフア機械学習次トークン予測モデルにおける自己注意言語処理モデルにおける自己注意メカニズムを詳しく見る。2025-08-13T15:40:29+00:00 ― 1 分で読む
トランスフォーマーとインコトランスフォーマーとインコンテキスト学習を調査中。効率的な学習のためのモデルアーキテクチャ機械学習トランスフォーマーを使ったインコンテキスト学習の進展研究がいろんなモデルアーキテクチャにおけるコンテキスト学習のパフォーマンスに関する洞察を明らかにした。2025-07-06T05:43:19+00:00 ― 1 分で読む