Bewertung von menschlichen Erklärungen im KI-Training

Menschliche Erklärungen spielen eine entscheidende Rolle beim Trainieren von Modellen, die natürliche Sprache verstehen. Während wir die Qualität der von Menschen bereitgestellten Labels leicht überprüfen können, gilt das nicht für freie Erklärungen. Diese Erklärungen können sehr persönlich sein und variieren stark von Person zu Person. Daher ist es wichtig, eine entscheidende Frage zu stellen: Wie bestimmen wir die Qualität dieser menschlichen Erklärungen?

Im Kontext des Trainings von Maschinenlernmodellen schlagen wir vor, die Qualität einer Erklärung daran zu messen, wie sehr sie die Leistung der Modelle bei den Aufgaben unterstützt oder behindert, für die sie entworfen wurden. Unsere Forschung führt eine neue Methode ein, um die Hilfreichheit von Erklärungen zu messen, im Vergleich zu anderen Methoden, die hauptsächlich betrachten, wie ähnlich die Erklärungen sind.

Durch die Analyse verschiedener Datensätze und Modelltypen haben wir herausgefunden, dass unser neues Messwerkzeug die Qualität menschlicher Erklärungen effektiv beurteilen kann. Traditionelle Messungen, die sich darauf konzentrieren, wie Erklärungen aussehen oder klingen, haben Einschränkungen und spiegeln oft nicht ihren wahren Wert wider.

Trotz der Fortschritte bei grossangelegten Sprachmodellen sind die Leute immer noch neugierig, wie diese Modelle Vorhersagen treffen. Forscher verlassen sich oft auf menschliche Gutachter, um Erklärungen zu liefern, die die Ausgaben von Modellen begleiten. Aber nur weil Menschen beteiligt sind, heisst das nicht, dass die Erklärungen von hoher Qualität sind.

Gängige Evaluierungstools wie BLEU und ROUGE messen, wie ähnlich maschinen-generierte Erklärungen menschlichen Erklärungen sind, in der Annahme, dass die menschlichen Erklärungen immer die besten sind. Diese Methode kann irreführend sein, da verschiedene Menschen dieselbe Information auf ihre eigene Art erklären könnten. Deshalb reicht es nicht aus, alle menschlichen Erklärungen als perfekt zu betrachten. Stattdessen argumentieren wir, dass der Hauptwert von Erklärungen darin bestehen sollte, wie sehr sie die Vorhersagen des Modells verbessern, anstatt wie ähnlich sie sich sind.

#Dateninstanzen und Datensätze

Um die Effektivität unserer Methode zu bewerten, haben wir mit fünf bekannten Datensätzen gearbeitet, die Erklärungen enthalten, die von Menschen erstellt wurden. Jeder dieser Datensätze hat seine eigenen Merkmale, und wir haben sie mit unserem neuen Messwerkzeug bewertet. Die Datensätze sind:

• CoS-E v1.0: Beinhaltet commonsense Fragen mit drei Auswahlmöglichkeiten.
• CoS-E v1.11: Eine Variante des obigen Datensatzes mit fünf Auswahlmöglichkeiten.
• ECQA: Auch commonsense Fragen, aber mit einem Fünf-Auswahl-Setup.
• e-SNLI: Dieser Datensatz handelt von natürlicher Sprachinferenz mit drei Labels.
• ComVE: Ein Datensatz, der beinhaltet, zu entscheiden, welcher Satz dem gesunden Menschenverstand widerspricht.

Wir haben einen umfassenden Überblick über diese Datensätze erstellt, einschliesslich der Arten von Fragen, die sie stellen, und wie viele Instanzen sie enthalten. Diese Informationen ermöglichen es uns, die Erklärungen für jeden Datensatz systematisch zu bewerten.

#Die Bedeutung von Qualitäts-Erklärungen

Viele Forscher glauben, dass gute Erklärungen den Modellen helfen können, besser abzuschneiden. Zum Beispiel können Erklärungen als Eingabe in Modelle eingespeist oder verwendet werden, um Modelle zu trainieren, eigene Erklärungen zu erstellen. Das Problem der Qualität bleibt jedoch bestehen. Die meisten bestehenden Evaluierungsmethoden, wie BLEU und ROUGE, vergleichen Texte, ohne wirklich die Effektivität einer Erklärung zur Entscheidungsfindung zu berücksichtigen.

Eine etablierte Metrik, die Simulatability genannt wird, konzentriert sich darauf, wie Erklärungen die Vorhersagen des Modells beeinflussen können. Sie berücksichtigt jedoch nicht, wie hilfreich diese Erklärungen in verschiedenen Phasen sind, wie z. B. beim Feintuning oder bei Vorhersagen. Wir haben festgestellt, dass Erklärungen in diesen Phasen unterschiedliche Werte liefern können, weshalb wir eine verbesserte Methode vorschlagen, die die Hilfreichkeit von Erklärungen umfassender bewertet.

Unsere Bewertungsmetrik berücksichtigt sowohl die Feintuning- als auch die Inferenzphasen der Verarbeitung eines Modells. Das hilft, ein klareres Bild vom Nutzen einer Erklärung zu vermitteln.

#Evaluationsmethode

Um menschliche Erklärungen zu analysieren, haben wir eine einfache, aber effektive Evaluationsmethode vorgeschlagen. Wir haben sorgfältig beobachtet, wie Erklärungen die Modellleistung sowohl beim Feintuning als auch bei der Inferenz beeinflusst haben. Unsere neue Metrik erweitert den bestehenden Simulatability-Score, indem sie berücksichtigt, wie Modelle reagieren, wenn sie mit und ohne die bereitgestellten Erklärungen feingetunt werden.

Wir haben unser Evaluierungswerkzeug an fünf Datensätzen mit zwei verschiedenen Arten von Modellen getestet. Die Ergebnisse zeigten, dass unsere Methode die Qualität menschlicher Erklärungen konsequent genauer bewertete als bestehende Methoden.

#Experiment-Ergebnisse

In unseren Experimenten entdeckten wir einige wichtige Dinge über die Effektivität von Erklärungen. Wir beobachteten, dass Erklärungen je nach Datensatztyp und Aufgabe in ihrer Nützlichkeit variieren können. Zum Beispiel sahen wir beim CoS-E-Datensatz, dass sogar Erklärungen, die von Menschen als 'noisy' oder von niedriger Qualität angesehen wurden, immer noch einen positiven Einfluss auf die Modellvorhersagen hatten.

Unsere Erkenntnisse zeigten auch interessante Dynamiken, wenn Erklärungen während des Trainings verwendet wurden. Modelle, die Erklärungen als Teil ihrer Trainingsdaten erhielten, schnitten im Allgemeinen besser ab als solche, die nur ihre eigenen Erklärungen generierten. Das deutet darauf hin, dass die Einbeziehung menschlicher Erklärungen auf durchdachte Weise die Modellleistung steigern kann.

Ausserdem bemerkten wir, dass die Formulierung der Erklärungen ebenfalls wichtig war. Zum Beispiel verwirrten Erklärungen, die Wörter enthalten, die Verneinung anzeigen, manchmal die Modelle und machten sie weniger effektiv. Das deutet darauf hin, dass klare, unkomplizierte Erklärungen der Schlüssel sind.

#Die Rolle von Aufgaben und Kategorien

Die Effektivität menschlicher Erklärungen hängt auch von den spezifischen Aufgaben oder Kategorien ab. In unserer Forschung fanden wir heraus, dass Modelle unterschiedlich auf die Strukturierte der Erklärungen für verschiedene Arten von Fragen reagierten. Einige Kategorien erhielten klarere Erklärungen, was es den Modellen erleichterte, sie zu verstehen, während andere unter der Bereitstellung von Gegenbeispielen oder komplexen Formulierungen litten.

Zum Beispiel führten Erklärungen in einigen Kategorien zu hohen Verwirrungsgraden bei den Modellen. Das zeigt, dass menschliche Gutachter vorsichtig sein müssen, wie sie ihre Erklärungen formulieren. Anstatt komplexe oder negative Formulierungen zu verwenden, können direktere Ausdrücke zu besseren Ergebnissen führen.

#Fazit

Zusammenfassend untersucht unsere Forschung die Qualität menschlicher Erklärungen und deren Einfluss auf die Modellleistung. Durch die Entwicklung einer neuen Methode zur Bewertung dieser Erklärungen wollen wir die Zusammenarbeit zwischen Menschen und KI bei der Annotation von Trainingsdaten verbessern. Die Ergebnisse unserer Forschung sollten zukünftige Forscher motivieren, hohe Standards für menschlich erzeugte Erklärungen aufrechtzuerhalten, was letztendlich zu besseren und effektiveren KI-Modellen führt.

Indem wir verstehen, wie menschliche Erklärungen besser strukturiert und gemessen werden können, öffnen wir die Tür zu effektiveren Trainingsmethoden, die die Stärken sowohl der menschlichen Intelligenz als auch des maschinellen Lernens nutzen. Da sich KI weiterentwickelt, wird es entscheidend sein, die Qualität ihres Verständnisses sicherzustellen, um fortschrittlichere und zuverlässigere Systeme zu entwickeln.