Umgang mit Halluzinationen in Sprachmodellen mit SelfCheckGPT

Grosse Sprachmodelle (LLMs) wie GPT-3 und PaLM können detaillierte und realistische Texte als Antwort auf verschiedene Fragen und Eingaben erstellen. Sie werden in Tools zum Schreiben von Berichten, virtuellen Assistenten und zur Zusammenfassung von Informationen genutzt. Aber manchmal erzeugen diese Modelle falsche Informationen oder "halluzinieren" Fakten, die nicht existieren, was das Vertrauen der Leute in ihre Ergebnisse schädigen kann.

#Das Problem der Halluzination

Halluzination bedeutet, dass ein Modell falsche Aussagen selbstbewusst produziert. Dieses Problem ist wichtig, weil es Bedenken hinsichtlich der Zuverlässigkeit der von diesen Modellen generierten Informationen aufwirft. Traditionelle Methoden zur Überprüfung von Fakten benötigen entweder Zugang zu speziellen Daten, die das Modell verwendet, oder verlassen sich auf externe Datenbanken, was kompliziert sein kann.

#Einführung von SelfCheckGPT

Um dieses Problem anzugehen, präsentieren wir SelfCheckGPT, eine Lösung, die Ungenauigkeiten im Text, der von LLMs generiert wird, überprüfen kann, ohne externe Datenbanken zu benötigen. Die Idee hinter SelfCheckGPT ist einfach: Wenn das Modell ein bestimmtes Konzept gut kennt, werden seine generierten Antworten wahrscheinlich ähnlich sein und konsistente Fakten enthalten. Wenn das Modell falsche Informationen produziert, werden die Antworten variieren und sich widersprechen.

#So funktioniert SelfCheckGPT

SelfCheckGPT untersucht mehrere Antworten, die aus demselben Prompt generiert wurden, und sucht nach Konsistenz zwischen ihnen. Es verwendet verschiedene Techniken, um zu überprüfen, ob die Informationen faktisch oder halluziniert sind.

1. BERTScore: Diese Methode vergleicht einen Satz mit ähnlichen Sätzen aus den Stichprobenantworten. Wenn ein Satz häufig unter den Proben erscheint, ist er wahrscheinlich faktisch. Wenn er nur einmal erscheint, ist er wahrscheinlich falsch.

2. Frage-Antworten (QA): Dieser Ansatz generiert Multiple-Choice-Fragen basierend auf dem Hauptsatz. Ein Antwortsystem überprüft, ob die ausgewählten Antworten mit den anderen Proben übereinstimmen. Wenn die Antworten konsistent sind, ist die Wahrscheinlichkeit höher, dass die Informationen wahr sind.

3. n-Gramm-Modell: Dieses Modell nutzt alle Proben, um eine kleinere Version des LLM zu erstellen, die hilft, die Wahrscheinlichkeit von Tokens in der ursprünglichen Antwort vorherzusagen. Ein Satz wird als faktisch angesehen, wenn er hochwahrscheinliche Tokens enthält.

4. Natürliche Sprachinferenz (NLI): Diese Methode überprüft, ob eine Aussage logisch aus bekannten Informationen folgt. Indem bewertet wird, ob ein Satz den gegebenen Kontext widerspricht oder unterstützt, hilft es, seine Genauigkeit zu bestimmen.

5. Prompting: Schliesslich kann das Modell aufgefordert werden zu bewerten, ob ein Satz vom Kontext unterstützt wird. Es wird mit einem einfachen "Ja" oder "Nein" antworten. Wenn dieser Ansatz richtig durchgeführt wird, kann es eine sehr effektive Möglichkeit sein, die Faktizität zu überprüfen.

#Datensatz und Bewertung

In dieser Studie haben wir einen Datensatz verwendet, in dem GPT-3 Texte basierend auf Personen aus dem WikiBio-Datensatz, einer Sammlung von Wikipedia-Artikeln, erstellt hat. Wir haben 238 Artikel generiert und jeden Satz als faktisch oder nicht-faktisch basierend auf seiner Genauigkeit gekennzeichnet.

Wir haben Sätze in drei Kategorien eingeteilt:

• Major Inaccurate: Der Satz enthält völlig erfundene Informationen.
• Minor Inaccurate: Der Satz beinhaltet einige falsche Informationen, ist aber thematisch relevant.
• Accurate: Der Satz präsentiert wahre Informationen.

Durch die Analyse dieser Labels konnten wir auswerten, wie effektiv SelfCheckGPT Ungenauigkeiten identifiziert.

#Leistung von SelfCheckGPT

Bei Tests hat SelfCheckGPT bemerkenswert gut darin abgeschnitten, Ungenauigkeiten in den Sätzen zu erkennen. Es hatte eine höhere Genauigkeit als andere Methoden, die auf den Zugriff auf die detaillierten Informationen des Modells angewiesen sind. Zum Beispiel zeigte es bessere Ergebnisse bei der Identifizierung faktischer Sätze im Vergleich zu älteren Methoden.

1. Antwortvergleich: Die Fähigkeit von SelfCheckGPT, Antworten zu vergleichen, hilft dabei, Inkonsistenzen zu erkennen, was es stark macht bei der Erkennung falscher Aussagen. Der Ansatz, Antworten zu sampeln, führte zu einer signifikanten Verbesserung der Genauigkeit.

2. Proxy-LLMs: Die Verwendung einfacherer Versionen von LLMs, um die Antwortwahrscheinlichkeiten zu approximieren, half, die Ergebnisse zu verbessern und zeigte, dass reichhaltige Informationen aus den Antworten positiv zur Identifizierung faktischer Texte beitragen.

3. Gesamtbewertung: SelfCheckGPT hat sich als effektiv erwiesen bei der Analyse sowohl von Sätzen als auch von grösseren Textpassagen. Die Designs für die Bewertung auf Satz- und Passageebene deuten darauf hin, dass es zuverlässig zwischen genauen und nicht-genauen Aussagen unterscheiden kann.

#Vorteile von SelfCheckGPT

Der grösste Vorteil von SelfCheckGPT ist seine Fähigkeit, ohne externe Datenbanken zu arbeiten. Dieser "Null-Ressourcen"-Ansatz macht es geeignet für verschiedene Szenarien, in denen Benutzer nicht auf eine Fülle von bestätigenden Daten zugreifen können.

Ausserdem hat es sich als effektiv erwiesen, selbst in Umgebungen, in denen Benutzer nur die Antworten des Modells sehen können, ohne tiefere Einblicke in dessen interne Abläufe zu haben. Diese Flexibilität macht es zu einem vielversprechenden Weg, um die Genauigkeit der von diesen komplexen Modellen generierten Informationen zu verbessern.

#Zukünftige Richtungen

Obwohl dieser Ansatz gute Ergebnisse gezeigt hat, gibt es Möglichkeiten, SelfCheckGPT weiter zu verbessern:

• Breitere Themenabdeckung: Die Ausweitung der Bewertung generierter Texte auf mehr Konzepte, einschliesslich Tiere, Orte und Objekte, würde ein breiteres Verständnis seiner Effektivität ermöglichen.

• Detaillierte Faktizitätsbewertung: Die Zerlegung von Sätzen in kleinere Fakten könnte zu einer detaillierteren Bewertung der Genauigkeit führen. Dies würde es ermöglichen, teilweise Wahrheiten innerhalb einer grösseren Aussage zu identifizieren.

• Effizienzsteigerung: Einige Methoden sind rechnerisch aufwendig, daher könnte die zukünftige Arbeit darauf abzielen, diese Prozesse effizienter zu gestalten, um schnellere Bewertungen ohne Verlust der Genauigkeit zu ermöglichen.

#Fazit

Diese Studie hebt die Bedeutung hervor, nicht-faktische Inhalte zu identifizieren, die von LLMs produziert werden. SelfCheckGPT hebt sich als eine Null-Ressourcen-Lösung hervor, die effektiv Halluzinationen in generierten Texten erkennt und den Benutzern eine zuverlässige Methode zur Überprüfung von Informationen bietet. Die vielversprechenden Ergebnisse ermutigen zu weiterer Erforschung und Entwicklung in diesem Bereich, um die Zuverlässigkeit der LLM-Ausgaben für breitere Anwendungen zu verbessern.