Bewertung von KI-Erklärungen mit Sprachmodellen

In der heutigen Welt haben viele Wohnungen Sensoren, die tägliche Aktivitäten überwachen können. Diese Sensoren helfen dabei, zu verfolgen, was Menschen in ihren Häusern tun, wie kochen, essen oder schlafen. Diese Informationen sind für das Gesundheitswesen nützlich, da sie Pflegekräfte auf mögliche Probleme hinweisen können, wie zum Beispiel frühe Anzeichen von kognitiven Problemen.

#Sensorbasierte Aktivitätserkennung

Sensoren, die im Haus platziert sind, können Aktivitäten erkennen, indem sie Bewegungen oder Ereignisse erfassen. Wenn zum Beispiel ein Sensor am Kühlschrank ausgelöst wird, bedeutet das, dass jemand ihn geöffnet hat. Mit diesen Sensoren können wir ein klares Bild von den täglichen Routinen einer Person bekommen, die als Aktivitäten des täglichen Lebens (ADLs) bekannt sind.

ADLs sind grundlegende Tätigkeiten, die Menschen normalerweise ausführen, um sich um sich selbst zu kümmern, wie sich anzuziehen, Mahlzeiten zuzubereiten und Medikamente einzunehmen. Diese Aktivitäten zu erkennen, kann Gesundheitsdienstleistern helfen, den Gesundheitszustand von Patienten zu überwachen und ungewöhnliches Verhalten zu entdecken, das auf Gesundheitsprobleme hinweisen könnte.

#Herausforderungen bei Deep-Learning-Modellen

Die meisten Systeme zur Aktivitätserkennung verwenden Deep-Learning-Modelle, um die von den Sensoren gesammelten Daten zu interpretieren. Diese Modelle übersetzen Sensorablesungen in Aktivitäten, funktionieren aber oft als „Black Boxes“, was bedeutet, dass es schwer ist zu erkennen, wie sie ihre Entscheidungen treffen. Diese Intransparenz kann ein Problem für Nicht-Experten wie Gesundheitsdienstleister sein, die verstehen müssen, warum ein Modell zu einem bestimmten Schluss kommt.

Um dem entgegenzuwirken, entwickeln Forscher Erklärbare KI (XAI)-Methoden, die klare Erklärungen für die Entscheidungen dieser Modelle anbieten. Ziel ist es, die Ausgaben des Modells so darzustellen, dass sie für Nicht-Experten leicht verständlich sind. Zum Beispiel könnte ein System erklären: „Ich habe vorhergesagt, dass Anna kocht, hauptsächlich weil sie in der Küche ist und der Herd an ist.“

#Der Bedarf an effektiver Bewertung von Erklärungen

Während XAI-Methoden darauf abzielen, die Entscheidungen von Modellen zu klären, ist es eine Herausforderung, ihre Wirksamkeit zu bewerten. Verschiedene XAI-Methoden können unterschiedliche Erklärungen für dieselbe Aktivität bieten. Traditionell haben Forscher diese Methoden durch Nutzerumfragen bewertet, was bedeutet, dass Teilnehmer rekrutiert werden müssen, um die Qualität der angebotenen Erklärungen zu beurteilen. Dieser Prozess kann jedoch teuer und zeitaufwändig sein.

Einige Studien haben automatische Bewertungsmetriken für XAI-Methoden vorgeschlagen. Diese Methoden versuchen zu bewerten, wie gut die Erklärungen mit dem etablierten Wissen über Aktivitäten übereinstimmen. Die Erstellung solcher Bewertungswerkzeuge erfordert jedoch oft erheblichen Aufwand von Experten auf diesem Gebiet.

#Die Rolle von grossen Sprachmodellen

Kürzlich haben Forscher herausgefunden, dass Grosse Sprachmodelle (LLMs) über ein enormes Wissen über menschliche Aktivitäten verfügen. Diese Fähigkeit eröffnet neue Möglichkeiten zur Bewertung von XAI-Methoden. Durch die Nutzung von LLMs können Forscher den Bewertungsprozess potenziell automatisieren und die Abhängigkeit von Nutzerumfragen verringern.

Unser Ansatz nutzt die Intelligenz von LLMs, um verschiedene XAI-Methoden, die natürliche Spracheerklärungen erzeugen, zu vergleichen. Wir haben Aufforderungsstrategien entwickelt, um das LLM in die Bewertung einzubeziehen, welche Methode die effektivste Erklärung für Nicht-Experten bietet.

#Forschungsfrage

Um zu untersuchen, wie gut LLMs XAI-Methoden bewerten können, haben wir eine Forschungsfrage aufgeworfen: Können LLMs bestimmen, welche XAI-Methode am besten ist, basierend auf den Erklärungen, die sie für verschiedene Aktivitäten geben?

Wir konzentrierten uns auf Szenarien, in denen Sensoren in einem Smart Home Aktivitäten über einen festgelegten Zeitraum erfassen. Für jede Aktivität könnten mehrere XAI-Modelle dieselbe Vorhersage liefern, sich aber in ihren Erklärungen unterscheiden.

#Aufforderungsstrategien

Unsere Methode verwendete zwei einzigartige Aufforderungsstrategien, um die Erklärungen zu bewerten, die von verschiedenen XAI-Modellen generiert wurden. Beide Strategien beinhalten, dass das LLM die Erklärungen verschiedener Modelle für spezifische Aktivitäten überprüft.

#Best-Among-K-Strategie

In der „Best-Among-K-Strategie“ wird das LLM gebeten, die beste Erklärung aus einer Reihe von Optionen auszuwählen, die von verschiedenen Modellen generiert wurden. Jedes Modell erhält eine Bewertung basierend auf der Qualität seiner Erklärung, wobei das beste Modell die höchste Punktzahl erhält und andere niedrigere Punktzahlen bekommen.

#Bewertungsstrategie

In der „Bewertungsstrategie“ vergibt das LLM eine Bewertung für jede Erklärung auf einer Skala von 1 bis 5. Wenn zwei oder mehr Modelle dieselbe Erklärung liefern, bekommen sie die gleiche Punktzahl. Das Modell mit der insgesamt höchsten Punktzahl wird als das beste angesehen.

#Experimentelle Bewertung

Um unsere LLM-basierten Bewertungsmethoden zu testen, verglichen wir sie mit Daten aus Nutzerumfragen, die die Wirksamkeit verschiedener XAI-Ansätze bewerteten. Wir erhielten zwei Datensätze, die Aktivitäten in Smart Homes verfolgen, und verwendeten diese, um zu bewerten, wie gut LLMs die Ergebnisse von Nutzerumfragen replizieren können.

In diesen Umfragen wurden die Nutzer gebeten, die Erklärungen verschiedener XAI-Methoden wie GradCAM, LIME und Modellprototypen zu bewerten. Unser Ziel war es zu sehen, ob die Bewertungen von LLMs mit den Antworten von echten Nutzern übereinstimmen.

#Ergebnisse der Bewertung

Unsere Experimente zeigten vielversprechende Ergebnisse. Die von LLMs erzeugten Platzierungen stimmten mit den Nutzerumfragen überein, was darauf hindeutet, dass LLMs die Qualität der Erklärungen effektiv bewerten können. Bei beiden Datensätzen rangierte die Methode der Modellprototypen konstant am höchsten, während GradCAM die niedrigsten Punktzahlen erhielt.

Interessanterweise fanden wir heraus, dass LLMs, insbesondere das fortgeschrittenere GPT-4-Modell, Ergebnisse produzierten, die eng mit den Nutzerumfrageergebnissen übereinstimmten. Allerdings neigte die Best-Among-K-Strategie dazu, GradCAM stärker abzustrafen als die Umfragen. Diese Diskrepanz könnte aus der Art und Weise resultieren, wie das LLM funktioniert und Erklärungen bewertet.

#Fazit

Zusammenfassend zeigt unsere Arbeit, dass LLMs wertvolle Werkzeuge zur Bewertung von Erklärungen in XAI-Methoden für die Aktivitätserkennung sein können. Die vorläufigen Ergebnisse deuten darauf hin, dass LLM-basierte Bewertungen mit traditionellen Nutzerumfragen vergleichbar sind und eine effizientere und potenziell kostengünstigere Bewertungsmethode bieten.

Zukünftige Forschungen werden sich mit der Entwicklung massgeschneiderter Aufforderungsstrategien für verschiedene Benutzerprofile befassen, einschliesslich Experten auf dem Gebiet, die möglicherweise detailliertere Erklärungen benötigen. Zudem wollen wir weitere wichtige Aspekte von Erklärungen wie Zuverlässigkeit und Vertrauenswürdigkeit untersuchen.

Die Erkenntnisse aus unserer Studie könnten zu effektiveren Wegen führen, um sicherzustellen, dass Nicht-Experten komplexe KI-Modelle verstehen, was den Weg für eine bessere Akzeptanz dieser Technologien im Gesundheitswesen und in Smart-Home-Umgebungen ebnen könnte.