Neel Nanda

Untersuchen, wie KI das Spiel Othello interpretiert und damit interagiert.

Aktivierungs-Patching gibt Einblicke in die Ausgaben und Verhaltensweisen von Sprachmodellen.

Die Studie untersucht universelle Neuronen in GPT-2-Modellen und deren Rollen.

Forscher untersuchen, wie Modelle sich anpassen, wenn Komponenten entfernt werden.

Ein genauerer Blick auf Kausalzuweisungsmethoden für grosse Sprachmodelle.

Sparse Autoencoder verbessern die Verständlichkeit von KI-Systemen und deren Entscheidungsprozesse.

Lerne, wie Transcoder helfen, komplexe Sprachmodelle zu klären.

In diesem Artikel wird untersucht, wie bestimmte Neuronen die Unsicherheit bei den Vorhersagen von Sprachmodellen beeinflussen.

Diese Studie nutzt spärliche Autoencoder, um die Ausgaben der Attention-Schichten in Transformern zu interpretieren.

JumpReLU SAEs verbessern die Datenrepräsentation und halten es dabei einfach und klar.

Gemma Scope bietet Tools, um Sprachmodelle besser zu verstehen und die KI-Sicherheit zu verbessern.

Neue Metriken verbessern das Verständnis von Sparse Autoencodern in neuronalen Netzwerken.

BatchTopK spärliche Autoencoder verbessern die Sprachverarbeitung durch clevere Datenauswahl.