Ein neues KI-System für das Nachdenken über soziale Normen

Soziale Normen sind die ungeschriebenen Regeln, die bestimmen, wie Leute in alltäglichen Situationen handeln. Diese Normen beeinflussen soziale Interaktionen, aber es ist eine echte Herausforderung, KI beizubringen, sie zu verstehen und darüber nachzudenken. In diesem Artikel wird ein neues System beschrieben, das KI hilft, Soziale Regeln aus Alltagssprache zu lernen. Das Ziel ist es, der KI zu ermöglichen, logische Entscheidungen auf Basis von gesundem Menschenverstand in sozialen Situationen zu treffen.

#Das Problem mit aktuellen KI-Systemen

KI hat grosse Fortschritte im Verständnis der natürlichen Sprache gemacht, aber viele Modelle agieren immer noch wie schwarze Kisten. Das heisst, wir können sehen, was sie tun, aber wir können nicht leicht nachvollziehen, wie sie zu ihren Entscheidungen kommen. Das ist besonders besorgniserregend, wenn es um sensible Themen wie Rasse und Geschlecht geht, wo einige KI-Systeme voreingenommenes Verhalten gezeigt haben.

Solche Vorurteile können echten Schaden anrichten, da wir zunehmend auf KI angewiesen sind, um wichtige Entscheidungen zu treffen. Es gibt zwar Methoden, um Entscheidungen von KI zu interpretieren, aber die geben oft nur einen teilweisen Einblick, was die Vorhersagen des Modells beeinflusst, und beheben kein problematisches Verhalten.

Im Gegensatz dazu verwenden Systeme, die auf symbolischer Logik basieren, klar definierte Regeln. Das bietet eine bessere Interpretierbarkeit, da wir sehen können, wie Entscheidungen getroffen werden, und es ermöglicht uns, problematische Regeln zu ändern. Diese symbolischen Methoden haben jedoch Schwierigkeiten mit kleinen Inkonsistenzen in den Eingabedaten.

Zum Beispiel kann symbolische Logik keine ähnlichen Konzepte verarbeiten, die anders formuliert sind, ohne dass jedes mögliche Wort aufgelistet werden muss. Auf der anderen Seite können tiefenlernbasierte Systeme sich an Rauschen in den Eingabedaten anpassen, was sie flexibler macht. Diese Unterschiede motivieren einen kombinierten Ansatz, der sowohl symbolische Logik als auch tiefes Lernen verwendet.

#Der neuro-symbolische Ansatz

Das Ziel dieses Projekts ist es, ein System zu schaffen, das sowohl symbolische als auch tiefenlernbasierte Methoden nutzt, um über soziale Situationen nachzudenken. Das umfasst mehrere Schritte.

Zuerst wandeln wir soziale Regeln, die in natürlicher Sprache verfasst sind, in eine strukturierte Form namens Abstract Meaning Representation (AMR) um. AMR stellt die Bedeutung von Sätzen so dar, dass sie von KI verarbeitet werden kann. Als Nächstes passen wir diese Darstellungen an kontextuelle Einbettungen an, die die Bedeutung von Wörtern basierend auf ihrem Kontext erfassen.

Dann erstellen wir alternative vereinfachte Versionen des AMR, um sicherzustellen, dass das System robust gegen Variationen in der Formulierung und potenzielle Parsing-Fehler ist. Danach wandeln wir das AMR in die Prädikatenlogik erster Ordnung um, wo wir mit einem neuro-symbolischen Theorembeweiser nachdenken können.

Wir verwenden soziale Regeln aus dem Social Chemistry 101-Datensatz, der eine grosse Anzahl von sozialen Regeln enthält, die das erwartete Verhalten in verschiedenen Situationen beschreiben. Zum Beispiel sind Regeln wie "Du solltest für den Geburtstag deines Kindes da sein" oder "Es ist falsch, absichtlich das Eigentum eines anderen zu beschädigen" enthalten. Jede Regel wird von Beispielen begleitet, um ihre Anwendung zu verdeutlichen.

Diese Regeln können als wertvolle Quelle für gesundes Wissen für unser Denksystem dienen, vorausgesetzt, sie können korrekt in ein logisches Format umgewandelt werden.

#Evaluierung des Systems

Um unser System zu testen, messen wir, wie gut es soziale Regeln mit entsprechenden Beispielen aus dem Datensatz abgleichen kann. Wir wollen sehen, ob das System logisch ableiten kann, dass die Regel auf das Beispiel zutrifft. Wenn die Regel zum Beispiel besagt: "Es ist falsch, eifersüchtig auf deinen Partner zu sein", erwarten wir, dass sie sich auf ein Beispiel von "eifersüchtig auf meine Freundin sein" bezieht.

Um dies zu erreichen, unterteilen wir den Prozess in mehrere Abschnitte. Zuerst geben wir einen Überblick über AMR und wie wir AMR in logische Ausdrücke umwandeln. Dann besprechen wir den Hintergrund des neuro-symbolischen Theorembeweisens und erläutern unser soziales Denksystem. Schliesslich werden wir unsere Technik gegen den Social Chemistry-Datensatz evaluieren und verwandte Arbeiten sowie zukünftige Richtungen erkunden.

#Verständnis der Abstract Meaning Representation (AMR)

AMR ist eine Möglichkeit, Sätze zu vereinfachen und zu standardisieren, um ihre Bedeutung besser zu erfassen. Es stellt Text als Graph dar, wobei Konzepte und deren Beziehungen visuell angezeigt werden. AMR ist besonders nützlich, weil es direkte Unterstützung für die Ausdrucksweise von Negation bietet, was für logische Aufgaben wichtig ist.

Mit AMR kann zum Beispiel der Satz "Der Junge geht nicht" als logische Darstellung ausgedrückt werden, die die Negation klar anzeigt. Diese Fähigkeit macht AMR zu einer geeigneten Wahl, um Alltagssprache in logische Ausdrücke umzuwandeln.

AMR ist darauf ausgelegt, Sätze auf konsistente Weise darzustellen, unabhängig von Variationen in der Formulierung. Zum Beispiel können mehrere Sätze mit ähnlichen Bedeutungen mit derselben AMR-Struktur erfasst werden. Das ist vorteilhaft für unsere Forschung, da es die Komplexität der Aufgabe verringert.

Wir haben uns für AMR entschieden, da es hochwertige Parser und Tools gibt, die es verarbeiten können. Durch die Verwendung von AMR können wir Alltagssprache in logische Ausdrücke umwandeln, mit denen unser System arbeiten kann.

#Umwandlung von AMR in logische Ausdrücke

Um festzustellen, ob eine soziale Regel zu einem Beispiel passt, müssen wir sowohl die Regel als auch das Beispiel in logische Ausdrücke erster Ordnung umwandeln. Soziale Regeln beinhalten normalerweise eine Handlung und ein Urteil über diese Handlung, während die Beispiele spezifische Situationen darstellen.

Beim Übersetzen der sozialen Regeln in logische Ausdrücke strukturieren wir die Ausgabe als Implikationen. Das bedeutet, dass der Ausdruck die Form "Wenn die Handlung passiert, dann gilt dieses Urteil" annimmt. Im Gegensatz dazu müssen wir die Beispiele nicht als Implikationen formulieren, da sie spezifische Fakten beschreiben.

Dieser Prozess ermöglicht es uns, die logischen Ausdrücke von Regeln und Beispielen zu vergleichen, um Übereinstimmungen zu überprüfen.

#Durchführung von Überlegungen mit dem Theorembeweiser

Sobald wir die logischen Ausdrücke für sowohl die sozialen Regeln als auch die Beispiele haben, verwenden wir einen neuro-symbolischen Theorembeweiser, um zu überprüfen, ob das Beispiel die Implikation, die durch die soziale Regel gemacht wurde, unterstützt. Der Beweiser arbeitet, indem er versucht festzustellen, ob der Ausdruck für das Beispiel logisch die Schlussfolgerung der sozialen Regel unterstützt.

Um dies effektiv zu tun, verwenden wir eine hybride Methode zur Übereinstimmung von Ausdrücken, die auf sowohl exakten Stringvergleichen als auch Ähnlichkeitswerten aus Einbettungsvektoren basiert. Dadurch kann unser System Übereinstimmungen finden, selbst wenn die Formulierung unterschiedlich ist, die Bedeutung jedoch ähnlich bleibt.

#Generierung und Bewertung von zusammengeführten AMR-Bäumen

AMR kann Sätze darstellen, aber manchmal weichen die Strukturen, die aus ähnlichen Sätzen generiert werden, leicht ab, was zu Alignierungsproblemen führt. Um dies anzugehen, erstellen wir alternative AMR-Bäume, indem wir Knoten zusammenführen, die ähnliche Konzepte darstellen. Das hilft uns, unterschiedliche Versionen derselben Idee abzugleichen, selbst wenn die ursprünglichen AMRs nicht identisch sind.

Das Zusammenführen von Knoten umfasst das Kombinieren mehrerer Knoten zu einem einzigen und das Durchschnittsbilden ihrer eingebetteten Bedeutungen. Dieser Prozess stellt sicher, dass wir beim Vergleichen von AMRs aus sozialen Regeln und Beispielen Übereinstimmungen finden können, selbst wenn die Zusammensetzungen der AMRs variieren.

Wir definieren Regeln, um sicherzustellen, dass die Zusammenführungen die semantische Bedeutung der Sätze nicht brechen. Zum Beispiel vermeiden wir das Zusammenführen über Negations- oder Kernreferenzgrenzen hinweg, da dies zu Fehlinterpretationen führen könnte.

#Ergebnisse der Evaluierung

Um die Leistung unseres Systems zu bewerten, führen wir Tests mit dem Social Chemistry 101-Datensatz durch. Wir messen, wie gut unser System soziale Regeln mit entsprechenden Beispielen abgleichen kann.

Wir überprüfen wahre Positives, bei denen das System eine Regel korrekt mit einem Beispiel abgleicht, sowie falsche Positives, bei denen das System einen Fehler macht. Auch schauen wir uns falsche Negative an, bei denen das System eine Übereinstimmung nicht erkennt.

Durch die Analyse dieser Ergebnisse können wir Metriken wie Präzision, Recall und F1-Werte berechnen, um unser System besser zu verstehen. Diese Werte geben ein klareres Bild von den Stärken und Schwächen unseres Denksystems.

#Die Bedeutung von Zusammenführungen für die Robustheit

Das Zulassen von mehr Zusammenführungen von Knoten in AMR-Bäumen hat einen erheblichen Einfluss auf die Leistung unseres Denksystems. Je mehr Knoten wir zusammenführen können, desto besser kann unser System sich an Variationen in der Formulierung und Struktur anpassen.

Wir analysieren, wie sich verschiedene Zusammenführungsgrössen auf die Fähigkeit unseres Systems auswirken, Übereinstimmungen zu finden, und stellen fest, dass eine Erhöhung der maximalen Anzahl von zusammenzuführenden Knoten zu einer besseren Recall führt, ohne die Präzision zu schädigen. Das bestärkt die Idee, dass die Verwendung von zusammengeführten Darstellungen unseren Denkprozess flexibler und effektiver macht.

#Die Rolle der Kombinierbarkeit in der Leistung

Wir führen das Konzept der Kombinierbarkeit ein, das misst, wie viel von einem AMR-Baum zusammengeführt werden kann. Höhere Kombinierbarkeit bedeutet in der Regel eine bessere Übereinstimmungsleistung. Wenn wir diesen Prozentsatz erhöhen, sehen wir, dass auch der Recall signifikant zunimmt.

Das deutet darauf hin, dass das Zulassen von mehr Zusammenführungen die Fähigkeit unseres Systems verbessert, soziale Regeln mit spezifischen Beispielen zu verknüpfen. Bei extrem hoher Kombinierbarkeit kann die Präzision jedoch leicht sinken, da zu viel Zusammenfüren zu mehr falschen Positives führen kann. Diese Erkenntnis deutet auf die Notwendigkeit einer weiteren Verfeinerung unserer Zusammenführungsregeln hin.

#Fazit

In diesem Artikel haben wir ein neues System vorgestellt, das symbolische Logik und tiefes Lernen kombiniert, um über soziale Normen nachzudenken. Durch die Umwandlung sozialer Regeln aus natürlicher Sprache in logische Formen ermöglichen wir es der KI, informierte Entscheidungen über soziale Situationen zu treffen.

Die hier präsentierte Arbeit zeigt das Potenzial eines neuro-symbolischen Ansatzes zur Verbesserung der Fähigkeit der KI, gesundes Wissen in sozialen Kontexten zu verstehen und anzuwenden. Durch unsere Evaluierungen veranschaulichen wir, wie das Zusammenführen unterschiedlicher AMR-Darstellungen die Leistung unseres Systems erheblich steigern kann.

Weitere Forschung könnte auf dieser Arbeit aufbauen, indem sie nuanciertere Überlegungen zulässt, Antonyme effektiver behandelt und Methoden entwickelt, um mit mehreren Sätzen gleichzeitig umzugehen. Unser Ziel ist es, KI-Systeme zu schaffen, die über soziale Situationen transparent und interpretierbar nachdenken können, damit sie für komplexe soziale Interaktionen und Entscheidungsprozesse geeignet sind.