Verbesserung der Erkennung unerwarteter Eingaben in maschinellem Lernen

In der heutigen Welt werden Machine-Learning-Systeme in vielen Anwendungen eingesetzt, von der Identifizierung von Objekten in Bildern bis hin zu Vorhersagen. Allerdings haben diese Systeme oft Schwierigkeiten, wenn sie auf Daten stossen, die sich von dem unterscheiden, worauf sie trainiert wurden. Das nennt man, wenn sie mit Out-of-Distribution (OOD) Eingaben konfrontiert werden. Um diese Systeme zuverlässiger zu machen, entwickeln Forscher Möglichkeiten, um diese ungewöhnlichen Eingaben zu erkennen.

Die meisten Studien konzentrieren sich darauf, Klassen zu erkennen, die nicht Teil der Trainingsdaten waren. Dieser enge Fokus ist ein Problem, denn im echten Leben sehen Systeme sich vielen verschiedenen Arten unerwarteter Daten gegenüber. In dieser Arbeit kategorisieren wir verschiedene Arten von Verteilungverschiebungen und prüfen, wie gut die aktuellen Methoden sie erkennen können.

#Die Herausforderung von OOD Eingaben

Wenn Machine-Learning-Modelle trainiert werden, arbeiten sie normalerweise mit einer konsistenten Datengrundlage. Aber sobald sie in realen Anwendungen eingesetzt werden, stossen sie oft auf unerwartete Proben. Das kann zu Fehlern führen, die in kritischen Anwendungen, wo Sicherheit wichtig ist, ernst sein können.

Forscher haben zwei Hauptstrategien, um zu verbessern, wie gut diese Systeme mit unerwarteten Eingaben umgehen. Die erste ist, die Robustheit der Modelle zu erhöhen, damit sie besser mit diesen Verschiebungen klar kommen. Die zweite ist die OOD-Erkennung, die darauf abzielt, festzustellen, wann die Eingabe ungewöhnlich ist und notwendige Massnahmen zu ergreifen, wie z. B. um menschliche Hilfe zu bitten.

Während eine erhöhte Robustheit bedeutet, dass das System weiterhin reibungslos funktioniert, kann es schwierig sein, dies zu erreichen, insbesondere wenn keine klare richtige Antwort dafür vorliegt, was das Modell ausgeben sollte. Die meisten OOD-Erkennungsmethoden konzentrieren sich tendenziell nur auf eine Art unerwarteter Eingaben, oft nur auf Neue Klassen. Sie berücksichtigen nicht andere Arten von Verschiebungen, die auftreten können, was ihre Nützlichkeit in realen Anwendungen einschränkt.

#Bedarf an vielfältiger OOD-Erkennung

Viele vorherige Studien zur OOD-Erkennung haben sich mit ungewöhnlichen Daten beschäftigt, sie jedoch nicht als OOD kategorisiert. Obwohl einige Studien versucht haben, mehrere Arten von Verschiebungen zu erkennen, bieten sie dennoch nicht genug Vielfalt. Das ist eine grosse Einschränkung, weil reale Systeme Eingaben begegnen, die in ihrer Natur stark variieren.

Wenn Forscher die Zuverlässigkeit ihrer Systeme verbessern wollen, müssen sie eine vielfältigere Palette unerwarteter Eingaben berücksichtigen. Ein enger Fokus auf spezifische Verschiebungstypen macht Systeme weniger anpassungsfähig und kann zu einer schlechten Leistung führen. Unser Ziel ist es, das Verständnis von OOD-Erkennung zu erweitern und sie anwendbarer für reale Szenarien zu machen.

#Einführung des BROAD Benchmarks

Um die identifizierten Probleme anzugehen, führen wir einen neuen Benchmark namens BROAD ein, was für Benchmarking Resilience Over Anomaly Diversity steht. Dieser Benchmark kategorisiert fünf verschiedene Arten von Verteilungverschiebungen, die auftreten können, wenn man es mit OOD-Proben zu tun hat. Die fünf Kategorien sind: neue Klassen, Adversarielle Störungen, Synthetische Bilder, Korruptionen und Multiklassen-Eingaben.

Dann evaluieren wir eine Vielzahl von OOD-Erkennungsmethoden gegenüber diesen Kategorien, um zu sehen, wie gut sie abschneiden. Die Ergebnisse zeigen, dass viele Methoden neue Klassen gut erkennen können, aber oft versagen, wenn sie mit anderen Arten von Verschiebungen konfrontiert werden.

#Die fünf Arten von Verteilungverschiebungen

#Neue Klassen

Neue Klassen beziehen sich auf Situationen, in denen die Daten Kategorien enthalten, die das Modell noch nie gesehen hat. Das ist die häufigste Art von Verschiebung, die in der OOD-Erkennung untersucht wird. Zum Beispiel, wenn ein Modell, das darauf trainiert ist, Hunde und Katzen zu erkennen, ein Bild eines Pferdes sieht, wird es Schwierigkeiten haben, es richtig zu klassifizieren.

#Adversarielle Störungen

Adversarielle Störungen treten auf, wenn Eingaben auf subtile Weise modifiziert werden, um das Modell in die Irre zu führen und falsche Vorhersagen zu treffen. Diese Arten von Eingaben können mit spezifischen Methoden erzeugt werden, die darauf abzielen, herausfordernde Szenarien für das Modell zu schaffen.

#Synthetische Bilder

Diese Kategorie umfasst Bilder, die von Algorithmen generiert werden, anstatt durch traditionelle Methoden aufgenommen zu werden. Mit dem Aufkommen von generativen Modellen wird das Vorhandensein synthetischer Bilder immer häufiger und kann zu Verwirrung bei Modellen führen, die auf echten Bildern trainiert wurden.

#Korruptionen

Korruptionen beziehen sich auf Bilder, die auf verschiedene Arten verändert wurden, die ihre Qualität beeinträchtigen. Zum Beispiel können Unschärfen oder Rauschen eingeführt werden, um die Fähigkeit des Systems zu testen, diese Bilder zu erkennen und zu klassifizieren.

#Multiklassen-Eingaben

Multiklassen-Eingaben beinhalten Bilder, die Elemente aus zwei oder mehr Klassen enthalten. Zum Beispiel kann ein Bild, das sowohl einen Hund als auch eine Katze zeigt, ein Modell verwirren, das darauf trainiert wurde, zwischen den beiden zu unterscheiden, da es keine klare Anleitung hätte, wie es dieses Bild klassifizieren soll.

#Bewertung der Erkennungsmethoden

In unserer Forschung konzentrieren wir uns auf OOD-Erkennungsmethoden, die nicht speziell auf OOD-Proben trainiert werden müssen. Das liegt daran, dass Systeme in der realen Anwendung normalerweise nicht wissen, welche seltsamen Eingaben sie erwarten.

Wir testen eine Vielzahl von Erkennungsmethoden gegen den BROAD Benchmark. Die Ergebnisse zeigen, dass einige Methoden bei adversariellen Störungen gut abschneiden, aber Schwierigkeiten mit Multiklassen-Eingaben haben. Diese Inkonsistenz hebt eine bedeutende Lücke hervor, wie gut aktuelle Methoden mit breiter OOD-Erkennung umgehen können.

#Bedeutung der breiten OOD-Erkennung

Unsere Ergebnisse betonen die Notwendigkeit für Systeme, die in der Lage sind, eine breitere Vielfalt unerwarteter Eingaben erfolgreich zu erkennen. Der aktuelle Fokus auf spezifische Arten von Verschiebungen reicht nicht aus, um eine robuste Leistung sicherzustellen.

Die Fähigkeit, verschiedene Arten von Verschiebungen zu erkennen, ist entscheidend für Anwendungen, bei denen Sicherheit von grösster Bedeutung ist. Sie stellt sicher, dass das System angemessen reagieren kann, wenn es mit unerwarteten und potenziell schädlichen Eingaben konfrontiert wird.

Um dies zu erreichen, schlagen wir eine neue Ensemble-Methode vor, die ein generatives Modell auf Basis von Gaussschen Mischungen nutzt. Diese Methode zielt darauf ab, die Stärken bestehender Erkennungswerte zu kombinieren, was zu einer verbesserten Leistung über verschiedene Arten von Verteilungverschiebungen führen soll.

#Fazit

Zusammenfassend hängt die Zuverlässigkeit von Machine-Learning-Systemen in realen Anwendungen von ihrer Fähigkeit ab, OOD-Eingaben zu erkennen und zu verwalten. Aktuelle Methoden fallen oft kurz aufgrund ihres begrenzten Umfangs. Indem wir den BROAD-Benchmark einführen und verschiedene Arten von Verschiebungen kategorisieren, hoffen wir, den Weg für robustere Erkennungsmethoden zu ebnen. Unser Ensemble-Ansatz zeigt vielversprechende Ergebnisse zur Leistungssteigerung, was darauf hinweist, dass zukünftige Forschung sich auf zunehmend vielfältige und anpassungsfähige OOD-Erkennungsstrategien konzentrieren sollte.

Durch diese Bemühungen können wir die allgemeine Zuverlässigkeit von Machine-Learning-Systemen verbessern und sicherstellen, dass sie mit der unvorhersehbaren Natur von realen Daten umgehen können. Das ist entscheidend, um sicherere und effektivere Anwendungen in verschiedenen Bereichen zu schaffen.