Neel Nanda

Les autoencodeurs sparses améliorent l'interprétabilité des systèmes d'IA et leurs processus de prise de décision.

Apprends comment les transcoder aident à clarifier des modèles de langage complexes.

Cet article examine comment certains neurones influencent l'incertitude dans les prédictions des modèles de langage.

Cette étude utilise des autoencodeurs épars pour interpréter les sorties de la couche d'attention dans les transformers.

Les JumpReLU SAEs améliorent la représentation des données tout en restant simples et clairs.

Gemma Scope propose des outils pour mieux comprendre les modèles de langage et améliorer la sécurité de l'IA.

De nouvelles métriques améliorent la compréhension des Sparse Autoencoders dans les réseaux de neurones.

Les autoencodeurs creux BatchTopK améliorent le traitement du langage grâce à une sélection intelligente des données.