Yingcong Li

注意メカニズムがAIの言語処理をどう向上させるかに迫る。

トランスフォーマーがどうやってアテンション層を使って言語処理を向上させてるかを見てみよう。

言語処理モデルにおける自己注意メカニズムを詳しく見る。

研究がいろんなモデルアーキテクチャにおけるコンテキスト学習のパフォーマンスに関する洞察を明らかにした。