Verbesserung der Ausgaben von neuronalen Netzwerken mit menschlichem Wissen

Neurale Netze (NN) sind Tools, die bei vielen Aufgaben gut abschneiden, aber manchmal Ergebnisse liefern, die für Menschen keinen Sinn ergeben. Die meisten NN-Modelle lernen, indem sie sich Paare von Eingabe- und Ausgabedaten anschauen, was manchmal mit dem, was Menschen für richtig halten, in Konflikt geraten kann. Forschungen haben gezeigt, dass es helfen kann, die Leistung zu verbessern und Fehler zu reduzieren, wenn man menschliches Wissen in diese Modelle einbringt, indem man während des Trainings anpasst, welche Ausgaben akzeptabel sind.

Trotz vieler Studien, die verschiedene Algorithmen vergleichen, die diese Anpassungen anwenden, hat die frühere Arbeit keinen klaren Weg angeboten, um diese Lernalgorithmen, die sich auf Ausgabengrenzen konzentrieren, zu kategorisieren. Dieser Artikel zielt darauf ab, einen einfachen Rahmen bereitzustellen, um besser zu verstehen, wie diese Algorithmen funktionieren, und um neue Methoden zur Verbesserung ihrer Effektivität zu präsentieren.

#Wichtige Beiträge

Diese Arbeit hat mehrere wichtige Beiträge:

1. Kategorisierung von Algorithmen: Wir klassifizieren frühere Forschungen basierend auf drei Hauptbereichen: die Art der verwendeten Verlustbeschränkung, die Methode zur Erkundung von Beispielen, die die Beschränkungen verletzen, und wie die Lernsignale der Hauptaufgabe und der Beschränkung kombiniert werden.

2. Vorgeschlagene neue Algorithmen: Wir schlagen neue Algorithmen vor, die die Informationen aus der Hauptaufgabe und der Beschränkungsanpassung kombinieren, inspiriert von Ideen aus dem kontinuierlichen Lernen.

3. Einführung einer neuen Metrik: Wir präsentieren eine neue Metrik namens -Score, die eine Bewertung der Leistung auf der Grundlage sowohl der Hauptaufgabe als auch der Verletzungen der Beschränkungen ermöglicht.

Um ein gründliches Verständnis zu bieten, betrachten wir alle Algorithmen in drei Aufgaben der Verarbeitung natürlicher Sprache (NLP): natürliche Sprachableitung (NLI), synthetische Transduktionsbeispiele (STE) und semantische Rollenkennzeichnung (SRL). Wir identifizieren Schlüsselfaktoren in verschiedenen Algorithmen, die zu hohen -Scores beitragen.

#Die Herausforderung mit neuronalen Netzen

Viele NN-Modelle lernen aus Daten, die als Paare von Eingaben und Ausgaben präsentiert werden, aber das kann zu Konflikten mit menschlichem Wissen führen. Frühere Forschungen haben gezeigt, dass die Integration menschlichen Wissens durch Minimierung relevanter Verletzungen der Beschränkungen während des Trainings die Leistung des Modells verbessern und Fehler mindern kann, die dem menschlichen Verständnis widersprechen.

Diese Beziehung zwischen Beschränkungen und der Hauptaufgabe kann man sich als Verbindung zwischen einer Unteraufgabe und der Hauptaufgabe vorstellen. Die Hauptaufgabe zielt darauf ab, die bestmögliche Vorhersage zu treffen, während sich die Unteraufgabe ausschliesslich darauf konzentriert, Ergebnisse zu produzieren, die die Beschränkungen erfüllen.

Beim Nachdenken über die Integration von Beschränkungen haben verschiedene Studien unterschiedliche Ansätze verfolgt. Die meisten fügen einen Verlustterm hinzu, der mit den Beschränkungen zusammenhängt, zu dem bestehenden überwachten Verlustterm, aber sie unterscheiden sich darin, wie sie diese Verlustkomponenten definieren und integrieren.

#Einheitliche Analyse

Das erste Ziel dieser Arbeit ist es, eine einheitliche Analyse bestehender Methoden anzubieten. Während es bereits Vergleiche von Methoden zur Einspeisung von Beschränkungen gibt, konzentrieren sie sich hauptsächlich auf die Leistung, ohne die zugrunde liegenden Prinzipien zu berücksichtigen. Unser Ziel ist es, frühere Literatur auf neue Weise zu organisieren, um zu verstehen, was diese Algorithmen erfolgreich macht.

Zum Beispiel: Während einige Algorithmen gute Ergebnisse mit dynamischen Gewichtsanpassungen für Beschränkungsverluste erzielt haben, könnte ihr Erfolg nicht ausschliesslich auf den Gewichtsanpassungen basieren. Das wirft Fragen auf, wie sich verschiedene Verlustarten gegenseitig beeinflussen, was es wert ist zu untersuchen, wie Techniken innerhalb eines einheitlichen Rahmens kombiniert werden können.

Trotz vieler Studien zur Einspeisung von Beschränkungen während des Trainings gibt es keine bekannte Forschung, die diese Ergebnisse in einem einzigen kohärenten Rahmen zusammenbringt, um einen einfachen Vergleich zu ermöglichen.

#Vorgeschlagene Lernalgorithmen

Das zweite Ziel dieser Arbeit ist es, effektive Lernalgorithmen vorzustellen, die Beschränkungen basierend auf unserem vorgeschlagenen Rahmen integrieren. Eine typische Methode zum Lernen mit Beschränkungen umfasst einen Verlustterm für die Beschränkung, der normalerweise zu dem bestehenden überwachten Verlustterm hinzugefügt wird.

Einige Studien haben eine Methode eingeführt, um dieses Gewicht der Beschränkung während des Trainings anzupassen, beginnend bei 0 und es schrittweise basierend auf dem Ausmass der Verletzungen zu erhöhen. Dies steht im Kontrast zu anderen Methoden, die ein festes Gewicht während des gesamten Trainings verwenden. Trotzdem gab es nicht viel Forschung darüber, wie man überwachte Lernsignale besser mit Informationen zu den Beschränkungen verweben kann.

Wir stellen in diesem Kontext zwei Fragen: Muss das Gewicht der Beschränkung während des Trainings konstant steigen? Können wir dieses Gewicht basierend auf sowohl überwachten Lernen als auch den Beschränkungen aktualisieren?

Inspiriert von Methoden des kontinuierlichen Lernens schlagen wir einen neuen Ansatz vor, der sowohl den überwachten Verlust als auch den Verlust durch Beschränkungen beim Aktualisieren der Gradienten berücksichtigt. Dieser Ansatz erkennt den Fortschritt beider Aufgaben an und bietet einen neuen Blickwinkel für die Integration dieser beiden Lernaufgaben.

Experimente zeigen, dass unser Ansatz in verschiedenen Szenarien besser abschneidet als andere Lernalgorithmen.

#Einheitliche Formulierung früherer Arbeiten

Wir kategorisieren frühere Studien, die während des Trainings Beschränkungen einspeisen, basierend auf drei Kernaspekten:

1. Arten von Verlustbeschränkungen: Das bezieht sich darauf, wie Verletzungen von Beschränkungen in eine messbare Verlustfunktion umgewandelt werden.

2. Erkundungsstrategien für Verletzungen von Beschränkungen: Das betrachtet Methoden zur Identifizierung von Beispielen, die die definierten Beschränkungen verletzen.

3. Integrationsmechanismen: Das bezieht sich darauf, wie wir die Verluste aus der Hauptaufgabe und der Anpassung der Beschränkung kombinieren.

#Arten von Verlustbeschränkungen

Verlustbeschränkung ist, wie wir Verletzungen in Bezug darauf, was wir vom Modell lernen möchten, ausdrücken. Zwei gängige Arten von Verlustbeschränkungen sind probabilistische weiche Logik und REINFORCE.

Probabilistische weiche Logik ermöglicht es uns, Logik in probabilistischen Begriffen zu formulieren und zu messen, wie stark die Beschränkungen verletzt werden. Im Gegensatz dazu bewertet REINFORCE, wie gut die Ausgabe des Modells die Beschränkungen erfüllt, und gibt Belohnungen basierend darauf, ob das Modell diese Beschränkungen erfüllt oder verletzt.

#Erforschen von Verletzungen der Beschränkungen

Beispiele zu identifizieren, die die Beschränkungen verletzen, ist entscheidend, um den Verlust durch die Beschränkungen zu bestimmen. Es gibt verschiedene Strategien zur Erkundung dieser Beispiele, wie zum Beispiel:

• Sampling: Zufällige Stichproben aus den Ausgaben des Modells ziehen, um Instanzen zu finden, die die Beschränkungen verletzen.

• Argmax (Top-1): Die wahrscheinlichste Ausgabe auswählen, um sie auf Verletzungen der Beschränkungen zu überprüfen.

• Erschöpfend: Alle möglichen Ausgaben und Kombinationen analysieren.

Jede Strategie hat ihre Vorzüge und variiert in ihrer Effektivität, je nach spezifischer Aufgabe.

#Integration der Hauptaufgabe und der Beschränkungen

In diesem Abschnitt wird diskutiert, wie man die Hauptlernaufgabe effektiv mit der Lernaufgabe zur Beschränkung kombiniert. Es gibt verschiedene Mechanismen, um dies zu tun, wie statische Methoden, die ein festes Gewicht für die Beschränkungen verwenden, und dynamische Methoden, die Gewichte basierend auf dem Lernprozess anpassen.

Wir führen auch neue Integrationsmethoden basierend auf linearen Projektionen ein, die verbessern, wie die Hauptaufgabe und die Beschränkungen zusammenarbeiten. Durch die Verwendung von Projektionen können wir negative Auswirkungen auf eine der Aufgaben während ihrer Updates verhindern, was zu einer besseren Gesamtleistung führt.

#Experimentierung

Um unsere vorgeschlagenen Methoden zu testen, konzentrieren wir uns auf drei NLP-Aufgaben: natürliche Sprachableitung (NLI), synthetisches Transduktionsbeispiel (STE) und semantische Rollenkennzeichnung (SRL).

#Natürliche Sprachableitung (NLI)

NLI erfordert das Verständnis von Beziehungen zwischen Textpaaren. Angesichts einer Prämisse und einer Hypothese muss das Modell bestimmen, ob die Prämisse die Hypothese unterstützt, ihr widerspricht oder neutral ist. Die Studie verwendete den SNLI-Datensatz mit spezifischen Beschränkungen zur Validierung.

#Synthetisches Transduktionsbeispiel (STE)

Für STE verwenden wir einen Sequenztransducer, der eine Quellsprache in eine Zielsprache umwandelt, mit spezifischen Beschränkungen bezüglich des Auftretens bestimmter Elemente in beiden Sprachen.

#Semantische Rollenkennzeichnung (SRL)

Bei SRL besteht die Aufgabe darin, Rollen innerhalb von Sätzen basierend auf gegebenen Verben zu identifizieren. Die Studie verwendete BIO-Tagging und hielt sich an Beschränkungen in Bezug auf die Kernrollen.

#Versuchsanordnung

Wir haben standardisierte Trainingsverfahren verwendet, die moderne GPU-Hardware und Optimierer einbeziehen. Die Experimente umfassten das Durchschnit

ten von Ergebnissen über wiederholte Versuche hinweg, um Zuverlässigkeit zu gewährleisten, und präsentierten sowohl die Leistung der Hauptaufgabe als auch die Verletzungen der Beschränkungen.

#Ergebnisse bewerten

Um die Ergebnisse zu bewerten, haben wir den -Score erstellt, der hilft, die Leistung sowohl auf der Grundlage der Hauptaufgabe als auch der Verletzungen der Beschränkungen zu bewerten. Dieser Score gibt Einblick in die Gesamtwirkung eines Modells und verfeinert, wie wir verschiedene Algorithmen bewerten.

#Erkenntnisse und Analyse

Die Ergebnisse zeigten, dass die Integration von Beschränkungen in den meisten Fällen die Leistung effektiv beeinflusste. Die Sampling-Strategie schnitt über die Aufgaben hinweg gut ab, und die Verwendung von Projektionstechniken erzielte konsequent bessere Ergebnisse im Vergleich zu statischen oder festen Verstärkungsmethoden.

Verschiedene Arten von Verlustbeschränkungen zeigten ebenfalls unterschiedliche Ergebnisse, die von der Aufgabe abhängen. Der allgemeine Trend hob die Vorteile hervor, Strategien zu kombinieren und diese effektiv zu integrieren.

#Fazit

In dieser Arbeit hatten wir das Ziel, das Landschaftsbild von Lernalgorithmen, die sich auf Ausgabebeschränkungen konzentrieren, zu klären. Wir schlugen einen einheitlichen Rahmen vor, um diese Algorithmen zu kategorisieren und zu analysieren, führten neue Methoden zur effektiveren Integration von Beschränkungen ein und hoben die Bedeutung eines Gleichgewichts in den Leistungsmetriken hervor.

Zukünftige Arbeiten können diese Methoden weiter verfeinern und ihre Anwendungen in verschiedenen Bereichen erweitern, um sicherzustellen, dass neuronale Netze besser mit menschlichem Verständnis und Wissen übereinstimmen.