Neel Nanda

アクティベーションパッチングは、言語モデルの出力や挙動に関する洞察を明らかにするよ。

この研究はGPT-2モデルのユニバーサルニューロンとその役割を調査してるよ。

研究者たちは、コンポーネントが取り除かれたときにモデルがどのように適応するかを調査している。

大規模言語モデルの因果帰属手法をじっくり見てみよう。

スパースオートエンコーダーは、AIシステムの解釈可能性や意思決定プロセスを向上させるんだ。

トランスコーダーが複雑な言語モデルを明確にするのにどう役立つか学ぼう。

この記事では、特定のニューロンが言語モデルの予測における不確実性にどのように影響するかを調べているよ。

この研究では、スパースオートエンコーダーを使ってトランスフォーマーのアテンションレイヤーの出力を解釈してるんだ。

JumpReLU SAEは、データ表現を向上させつつ、シンプルでわかりやすく保つんだ。

Gemma Scopeは、言語モデルをよりよく理解するためのツールとAIの安全性向上のためのツールを提供してるよ。

新しい指標がニューラルネットワークのスパースオートエンコーダーの理解を深めるよ。

BatchTopKスパースオートエンコーダーは、賢いデータ選択を通じて言語処理を改善するよ。