Arthur Conmy

Diese Studie nutzt spärliche Autoencoder, um die Ausgaben der Attention-Schichten in Transformern zu interpretieren.

JumpReLU SAEs verbessern die Datenrepräsentation und halten es dabei einfach und klar.

Gemma Scope bietet Tools, um Sprachmodelle besser zu verstehen und die KI-Sicherheit zu verbessern.

Eine Methode zur Verbesserung der Effektivität von Steering-Vektoren in Sprachmodellen.