Neel Nanda

Examinando cómo la IA interpreta e interactúa con el juego Othello.

El parcheo de activación revela información sobre las salidas y comportamientos de los modelos de lenguaje.

El estudio investiga neuronas universales en los modelos GPT-2 y sus roles.

Los investigadores investigan cómo los modelos se adaptan cuando se quitan componentes.

Una mirada más cercana a los métodos de atribución causal para modelos de lenguaje grandes.

Los autoencoders dispersos mejoran la interpretabilidad de los sistemas de IA y sus procesos de toma de decisiones.

Aprende cómo los transcodificadores ayudan a aclarar modelos de lenguaje complejos.

Este artículo examina cómo ciertas neuronas afectan la incertidumbre en las predicciones de modelos de lenguaje.

Este estudio usa autoencoders dispersos para interpretar las salidas de la capa de atención en los transformers.

JumpReLU SAEs mejoran la representación de datos manteniéndolo simple y claro.

Gemma Scope ofrece herramientas para entender mejor los modelos de lenguaje y mejorar la seguridad de la IA.

N nuevas métricas mejoran la comprensión de los Autoencoders Dispersos en redes neuronales.

Los autoencoders dispersos BatchTopK mejoran el procesamiento del lenguaje a través de una selección inteligente de datos.