Arthur Conmy

この研究では、スパースオートエンコーダーを使ってトランスフォーマーのアテンションレイヤーの出力を解釈してるんだ。

JumpReLU SAEは、データ表現を向上させつつ、シンプルでわかりやすく保つんだ。

Gemma Scopeは、言語モデルをよりよく理解するためのツールとAIの安全性向上のためのツールを提供してるよ。

言語モデルでのステアリングベクターの効果を向上させる方法。