Verbesserung der Zusammenarbeit zwischen Mensch und KI im Gesundheitswesen

Im Gesundheitswesen wird Künstliche Intelligenz (KI) immer häufiger eingesetzt, um Ärzten bei Aufgaben wie der Risikobewertung und der Auffindung ungewöhnlicher Muster in Patientendaten zu helfen. Allerdings fehlt es oft an einem tiefen Verständnis dafür, wie Menschen und KI effektiv zusammenarbeiten können, wenn es um die Analyse komplexer medizinischer Informationen geht. Um das zu verbessern, haben wir mit einem lokalen Krankenhaus zusammengearbeitet und Input von mehreren Ärzten und einem Data Scientist gesammelt. Unser Ziel war es, ein Framework zu entwerfen, das zwei Arten von visuellen Systemen kombiniert, um die Zusammenarbeit zwischen Mensch und KI bei der Analyse medizinischer Daten zu erleichtern.

#Überblick über unser Visualisierungssystem

Unser System besteht aus zwei Phasen, die die Zusammenarbeit bei der Analyse medizinischer Zustände nach bestimmten Gesundheitsereignissen verbessern.

#Phase I

In dieser Phase konzentrieren wir uns auf drei Ansichten:

• Kohortenansicht: Hier sieht der Nutzer, wie Arzneimittelereignisse und Krankheitsverlauf miteinander verbunden sind.
• Patientenprojektion: Das hilft, Merkmale spezifischer Patientengruppen zu untersuchen.
• Medizinische Ereignisse: Diese Ansicht bietet detaillierte visuelle Informationen über medizinische Ereignisse im Zusammenhang mit Patienten.

#Phase II

In dieser Phase integrieren wir KI-Tools in den Prozess. Sie besteht aus:

• Modellierungsansicht: Die dient der Entwicklung von KI-Modellen und der Bewertung ihrer Leistung.
• Protokollansicht: Diese verfolgt die Modelliterationen und die verwendeten Daten.

#Herausforderungen in KI und Gesundheitswesen

KI hat grosses Potenzial, im Gesundheitswesen zu helfen, besonders bei der Risikobewertung und bei ungewöhnlichen Fällen. Dennoch sieht die Mehrheit der Forschung KI eher als Hilfsmittel, ohne die Einschränkungen bei der Handhabung komplexer medizinischer Daten zu berücksichtigen. Frühere Studien betrachteten oft Krankheiten mit klaren, kurzzeitigen Symptomen, aber unser Fokus liegt auf komplizierteren Zuständen, die eine tiefere Analyse erfordern.

In komplexen medizinischen Szenarien erfordert das Gewinnen genauer Einsichten menschliche Expertise, speziell von medizinischen Fachleuten, um detaillierte Merkmale und präzise Datenetikettierung bereitzustellen. Es ist entscheidend, die Rollen von Mensch und KI zu definieren und zu bestimmen, wer was in den verschiedenen Phasen der Analyse macht, um die besten Ergebnisse zu erzielen.

#Unsere Zusammenarbeit mit Gesundheitsprofis

Um diese Bedenken anzugehen, arbeiteten wir eng mit einem lokalen Krankenhaus zusammen und verbrachten Zeit mit medizinischen Experten. Wir begannen mit hormonbezogenen medizinischen Aufzeichnungen und führten Interviews mit sechs Ärzten und einem Data Scientist, um ihre Bedürfnisse und Erwartungen bei der Analyse von Sequenzen (Nachwirkungen einer Krankheit) zu erfahren.

Durch diesen Prozess identifizierten wir sieben wichtige Designbedürfnisse, die in zwei Gruppen kategorisiert wurden:

1. Von Menschen geführte, KI-unterstützte retrospektive Analyse: Hier übernehmen Menschen die Analyse historischer Daten mit Unterstützung von KI.
2. KI-vermittelte, von Menschen überprüfte iterative Modellierung: In diesem Szenario erstellt die KI Modelle, die von Menschen überprüft und verfeinert werden.

Darauf basierend entwickelten wir ein zweiphasiges Framework, das auf diese Bedürfnisse abgestimmt ist, wobei wir zuerst ein System für die interaktive Datenanalyse erstellen und dann KI-Modelle basierend auf dem Feedback der medizinischen Experten integrieren.

#Verständnis der Mensch-KI-Zusammenarbeit

Es gibt drei gängige Arten, wie Menschen und KI zusammenarbeiten:

1. KI-unterstützte Entscheidungsfindung: Hier gibt KI Vorschläge, aber die Menschen treffen die finalen Entscheidungen. Frühere Forschung hat untersucht, wie KI Praktikern bei Diagnosen helfen kann und wie das Vertrauen durch die Zuversicht der KI beeinflusst wird.

2. Mensch im Loop: In diesem Modell wird menschliches Eingreifen genutzt, um die Leistung der KI zu verbessern. Ein Beispiel wäre, dass Therapeuten KI-Ausgaben überprüfen, um besseres Feedback zu geben.

3. Gemeinsame Aktion: Hier arbeiten sowohl Menschen als auch KI gemeinsam auf ein gemeinsames Ziel hin und erkunden, wie Aufgaben zwischen ihnen verteilt werden.

Unser Ansatz kombiniert die Expertise von Medizinern mit den Stärken der KI. In der ersten Phase führen wir retrospektive Analysen durch, um Krankheiten und medizinische Vorfälle zu verknüpfen. Die zweite Phase ermöglicht es den Nutzern, Teil des Prozesses zu werden, indem sie spezifische Patientengruppen für die KI-Modellierung identifizieren.

#Techniken zur Visualisierung medizinischer Daten

Das Gesundheitswesen verlässt sich oft auf elektronische Gesundheitsakten (EHRs), die Daten über verschiedene Ereignisse enthalten. Traditionelle Möglichkeiten zur Visualisierung dieser Informationen umfassen Zeitachsen und Diagramme. Einige Studien haben auch Baumstrukturen oder andere fortschrittliche Designs verwendet, um darzustellen, wie sich Krankheiten entwickeln.

Im Gegensatz zu Forschungen, die sich hauptsächlich auf einfache Krankheiten konzentrieren, zielt unser System darauf ab, Ärzten zu helfen, kompliziertere medizinische Daten zu verstehen, beginnend mit definierten Patientengruppen und sie durch detaillierte Patienteninformationen mittels klarer visueller Designs zu leiten.

#Durchführung unserer formative Studie

Über drei Monate arbeiteten wir eng mit Experten zusammen und sammelten Input von denen, die sich auf Bereiche wie orthopädische Chirurgie und Studien zu Knochenzuständen spezialisiert haben. Unsere Studie konzentrierte sich auf die Überwachung der Medikamentennutzung, insbesondere von Glukokortikoiden, und die Identifizierung von Risiken für Osteonekrose – eine Knochenkrankheit, die mit der hormonellen Behandlung in Verbindung steht.

Durch Interviews erfuhren wir von ihren Erfahrungen bei der Risikobewertung im Zusammenhang mit Sequenzen, einschliesslich ihrer Methoden zur Planung und Analyse von Daten. Wir stellten mehrere zentrale Herausforderungen in ihren traditionellen Praktiken fest, wie z.B. Probleme mit der Datenqualität und unklare Risikofaktoren. Viele Experten äusserten zudem Bedenken hinsichtlich des Vertrauens in KI-Modelle aufgrund ihrer Intransparenz und des Mangels an Vertrautheit im Umgang mit diesen Technologien.

#Wichtige identifizierte Herausforderungen

1. Datenqualitätsprobleme: Schlechte Datenqualität kann zu ungenauen Analysen führen.
2. Unklarheit bei der Identifizierung von Risiken: Es kann schwierig sein, welche Faktoren zu bestimmten Ergebnissen beitragen, genau zu bestimmen.
3. Vertrauen in KI-Modelle: Viele Experten sind unsicher über die Zuverlässigkeit der KI-Empfehlungen.

Wir entwickelten eine umfassende Reihe von Designanforderungen, um diese Herausforderungen anzugehen und unterteilten sie in zwei Analyseebenen:

1. Von Menschen geführte, KI-unterstützte retrospektive Analyse
2. KI-vermittelte, von Menschen überprüfte iterative Modellierung

#Phase I: Von Menschen geführte, KI-unterstützte retrospektive Analyse

In der ersten Phase wollten wir die retrospektive Analyse durch drei Hauptmerkmale erleichtern: Kohortenansicht, Patientenprojektion und medizinische Ereignisse.

#Datensammlung und Merkmale

Die Daten für unser System stammen aus einem Gesundheitsinformationssystem (HIS), um die Vertraulichkeit der Patienten zu gewährleisten und ethische Genehmigungen zu erhalten. Wir organisierten die Daten in fünf Kategorien: Hauptdiagnose, Labortests, Untersuchungsinformationen, Arzneimittelanordnungen und medizinische Aufzeichnungen.

#Visualisierung in Phase I

Das Leitprinzip für Phase I war es, die üblichen Praktiken der medizinischen Fachkräfte widerzuspiegeln und ihnen eine Möglichkeit zu bieten, Daten effektiv zu sehen und zu analysieren.

#Kohortenansicht

Die Kohortenansicht gibt einen klaren Überblick darüber, wie Medikamente und Krankheiten miteinander in Beziehung stehen. Diese Ansicht enthält demografische Informationen, Krankheitsarten und Medikamentenklassen. Sie ermöglicht Ärzten, Kohorten zu erkunden, indem sie auf bestimmte Cluster klicken, um mehr zu erfahren.

#Patientenprojektion

In dieser Ansicht können Ärzte Techniken nutzen, die komplexe Daten vereinfachen, wie z.B. Dimensionsreduktion, um die Merkmale ausgewählter Patientenkohorten zu analysieren.

Diese Ansicht verwendet ein innovatives Glyphenformat für jeden Patienten, das wesentliche Informationen wie die Medikamentengeschichte und die Behandlungsdauer in einem ansprechenden visuellen Format bietet.

#Medizinische Ereignisse

Die Ansicht Medizinische Ereignisse konsolidiert die Gesundheitsakten eines Patienten in einem interaktiven Tabellenformat. Sie ermöglicht es den Nutzern, verschiedene Aspekte der Gesundheit eines Patienten über die Zeit effizient zu vergleichen.

#Phase II: KI-vermittelte, von Menschen überprüfte iterative Modellierung

In der zweiten Phase führten wir KI-Modelle in den Analyseablauf ein und nutzten Erkenntnisse aus der ersten Phase, um kritische Merkmale für effektives Modellieren zu identifizieren.

#Backend-Experimente

Wir konzentrierten uns auf die genaue Identifizierung positiver und negativer Proben und verfeinerten unseren Ansatz, um bessere Samplingstrategien einzubeziehen. Wir nahmen Techniken an, die eine bessere Modellinterpretation und Leistungsbewertung ermöglichen würden, wobei wir das RandomForest-Modell als starke Option für Vorhersagen identifizierten.

#Visualisierung in Phase II

Wir bauten auf der Benutzeroberfläche der Phase I auf und fügten neue Funktionen für die Modellierung hinzu und führten Protokolle über die in jeder Modellierungsiteration verwendeten Daten.

#Modellierungsansicht

In dieser Ansicht können Ärzte wichtige Merkmale auswählen, die ihrer Meinung nach zum Modell beitragen werden, und verschiedene Patientengruppen visuell vergleichen.

#Protokollansicht

Die Protokollansicht dient als Dokumentationstool, das die Details und Leistungskennzahlen jedes Modells festhält. Dadurch wird ein besseres Tracking und Verständnis der iterativen Verbesserungen ermöglicht.

#Expertenfeedback und Bewertung

Wir sammelten Feedback von den Experten, um zu verstehen, wie sie unser System wahrnahmen, und konzentrierten uns auf drei Bereiche: Co-Design-Prozess, Workflow-Anpassung und Bedenken zur KI-Zusammenarbeit. Viele Experten schätzten die gründliche Analyse und die Integration ihrer Rückmeldungen in das KI-Modell, was Kreativität anregte und die Ergebnisse verbesserte.

#Fazit

Unsere Studie präsentiert einen zweiphasigen Ansatz, der die Zusammenarbeit zwischen Gesundheitsfachleuten und KI fördert. Dieses System verbessert die Effizienz und Qualität der Analyse medizinischer Daten, indem es eine aktive Nutzerbeteiligung im Design- und Implementierungsprozess ermöglicht. Während es zunächst auf Sequenzdaten fokussiert war, kann dieses Framework auf andere Bereiche wie Biologie und Chemie ausgeweitet werden, für Aufgaben wie die Arzneimittelentdeckung und die Proteinanalyse. Dennoch bleiben Herausforderungen wie Datenverzerrung und die Notwendigkeit breiterer Nutzererprobung bestehen. Insgesamt zielt unser Framework darauf ab, das Verständnis und die Ergebnisse in komplexen medizinischen Analysen durch eine bessere Mensch-KI-Zusammenarbeit zu verbessern.