Migliorare la collaborazione tra umani e AI nella sanità

Nel settore sanitario, l'intelligenza artificiale (IA) viene sempre più utilizzata per aiutare i dottori con compiti come valutare i rischi e trovare schemi insoliti nei dati dei pazienti. Tuttavia, il ruolo dell'IA nell'analisi di informazioni mediche complesse spesso manca di profondità nell'intendere come esseri umani e IA possano lavorare insieme in modo efficace. Per migliorare questo, abbiamo lavorato con un ospedale locale e raccolto pareri da diversi medici e un scienziato dei dati. Il nostro obiettivo era progettare un framework che combini due tipi di sistemi visivi per facilitare una migliore collaborazione tra esseri umani e IA nell'analizzare i dati medici.

#Panoramica del Nostro Sistema di Visualizzazione

Il nostro sistema è composto da due fasi che migliorano la collaborazione nell'analisi delle condizioni mediche che seguono eventi sanitari specifici.

#Fase I

Questa fase si concentra su tre visualizzazioni:

• Vista Cohort: Permette all'utente di vedere come eventi farmacologici e progressione delle malattie siano correlati.
• Vista Proiezione Paziente: Aiuta a esaminare le caratteristiche di gruppi specifici di pazienti.
• Vista Evento Medico: Fornisce informazioni visive dettagliate sugli eventi medici legati ai pazienti.

#Fase II

In questa fase, integriamo strumenti di IA nel processo. Consiste in:

• Vista Modellazione: Serve per sviluppare modelli di IA e valutare le loro performance.
• Vista Log: Tiene traccia delle iterazioni del modello e dei dati utilizzati.

#Sfide nell'IA e nella Sanità

L'IA ha un grande potenziale per assistere nella sanità, specialmente nella valutazione dei rischi e nei casi particolari. Tuttavia, la maggior parte della ricerca vede l'IA semplicemente come un aiuto senza considerare le sue limitazioni quando si tratta di dati medici complessi. Studi precedenti spesso si sono concentrati su malattie con sintomi chiari e a breve termine, ma il nostro focus è su condizioni più complesse che richiedono analisi più approfondite.

In scenari medici complessi, ottenere intuizioni accurate richiede che gli esseri umani-in particolare esperti medici-facciano da fornitori di caratteristiche dettagliate e etichettatura accurata dei dati. È fondamentale definire i ruoli di esseri umani e IA, determinando chi fa cosa durante le diverse fasi dell'analisi per ottenere i migliori risultati.

#La Nostra Collaborazione con Professionisti della Salute

Per affrontare queste preoccupazioni, abbiamo lavorato a stretto contatto con un ospedale locale, trascorrendo tempo con esperti medici. Siamo partiti da cartelle cliniche relative agli ormoni, conducendo interviste con sei medici e un scienziato dei dati per capire le loro esigenze e aspettative nell'analizzare le conseguenze (gli effetti post malattia).

Attraverso questo processo, abbiamo identificato sette esigenze fondamentali di design che sono state suddivise in due gruppi:

1. Analisi Retrospectiva Guidata da Umani con Assistenza dell'IA: Quando gli esseri umani si occupano di analizzare dati storici con l'aiuto dell'IA.
2. Modellazione Iterativa Mediata dall'IA e Revisionata da Umani: In questo scenario, l'IA costruisce modelli che gli umani revisionano e perfezionano.

Da questo, abbiamo sviluppato un framework in due fasi che corrispondeva a queste necessità, concentrandoci prima sulla creazione di un sistema per l'analisi interattiva dei dati e successivamente sull'integrazione di modelli di IA basati sul feedback degli esperti medici.

#Comprendere la Collaborazione Uomo-IA

Ci sono tre modi comuni in cui gli esseri umani e l'IA lavorano insieme:

1. Decisione Assistita dall'IA: Qui, l'IA fornisce suggerimenti, ma sono gli esseri umani a prendere le decisioni finali. Studi precedenti hanno esaminato come l'IA possa aiutare i professionisti con le diagnosi e come mostrare la fiducia dell'IA possa influenzare la fiducia.

2. Umano nel Loop: In questo modello, il contributo umano è usato per migliorare la performance dell'IA. Un esempio è rappresentato dai terapeuti che revisionano le uscite dell'IA per fornire feedback migliori.

3. Azione Condivisa: Qui, sia gli esseri umani che l'IA lavorano insieme verso un obiettivo comune, esplorando come i compiti sono distribuiti tra di loro.

Il nostro approccio combina l'expertise dei professionisti medici con i punti di forza dell'IA. Nella prima fase, svolgiamo analisi retrospettive per connettere malattie e incidenti medici. La seconda fase permette agli utenti di diventare parte del processo, aiutandoli a identificare gruppi specifici di pazienti per la modellazione dell'IA.

#Tecniche di Visualizzazione dei Dati Medici

La sanità spesso si basa su registri sanitari elettronici (EHR), che contengono dati su vari eventi. I modi tradizionali per visualizzare queste informazioni includono timeline e grafici. Alcuni studi hanno anche utilizzato strutture ad albero o altri design avanzati per rappresentare come le malattie progrediscono.

A differenza delle ricerche focalizzate principalmente su malattie semplici, il nostro sistema mira ad aiutare i medici a comprendere dati medici più complessi, iniziando con gruppi di pazienti definiti e guidandoli attraverso informazioni dettagliate sui pazienti tramite design visivi chiari.

#Conduzione del Nostro Studio Formativo

Per tre mesi, abbiamo lavorato a stretto contatto con esperti, raccogliendo input da chi si specializza in aree come la chirurgia ortopedica e lo studio delle condizioni ossee. Il nostro studio si è concentrato sul monitoraggio dell'uso di farmaci, in particolare glucocorticoidi, e sull'identificazione dei rischi per l'osteonecrosi-una condizione ossea legata al trattamento ormonale.

Attraverso interviste, abbiamo appreso delle loro esperienze nella valutazione dei rischi associati alle conseguenze, comprese le loro metodologie per pianificare e analizzare i dati. Abbiamo riscontrato diverse sfide chiave nelle loro pratiche tradizionali, come problemi con la qualità dei dati e fattori di rischio poco chiari. Inoltre, molti esperti hanno espresso preoccupazioni riguardo la fiducia nei modelli di IA a causa della loro opacità e della mancanza di familiarità nel lavorare con queste tecnologie.

#Sfide Chiave Identificate

1. Problemi di Qualità dei Dati: Dati di scarsa qualità possono portare ad analisi imprecise.
2. Ambiguità nell'Identificazione dei Rischi: Può essere difficile individuare quali fattori contribuiscono a specifici risultati.
3. Fiducia nei Modelli di IA: Molti esperti non sono sicuri dell'affidabilità delle raccomandazioni dell'IA.

Abbiamo sviluppato un set completo di requisiti di design per affrontare queste sfide e li abbiamo divisi in due livelli di analisi:

1. Analisi Retrospectiva Guidata da Umani con Assistenza dell'IA
2. Modellazione Iterativa Mediata dall'IA e Revisionata da Umani

#Fase I: Analisi Retrospectiva Guidata da Umani con Assistenza dell'IA

Durante la prima fase, abbiamo mirato a facilitare l'analisi retrospettiva attraverso tre caratteristiche principali: Vista Cohort, Vista Proiezione Paziente e Vista Evento Medico.

#Raccolta Dati e Caratteristiche

I dati per il nostro sistema provenivano da un Sistema Informativo Sanitario (HIS), garantendo la riservatezza dei pazienti e l'approvazione etica. Abbiamo organizzato i dati in cinque categorie: diagnosi primaria, test di laboratorio, informazioni sull'esame, ordini di farmaci e cartelle cliniche.

#Visualizzazione Durante la Fase I

Il principio guida per la Fase I era riflettere le pratiche abituali dei professionisti medici, offrendo loro un modo per visualizzare e analizzare i dati in modo efficace.

#Vista Cohort

La Vista Cohort fornisce un quadro chiaro di come i farmaci e le malattie siano correlati. Questa vista include informazioni demografiche, tipi di malattie e classi di farmaci. Consente ai medici di esplorare le coorti cliccando su cluster specifici per saperne di più.

#Vista Proiezione Paziente

In questa vista, i medici possono utilizzare tecniche che semplificano i dati complessi, come la riduzione dimensionale, per analizzare le caratteristiche delle coorti di pazienti selezionate.

Questa vista impiega un glyph innovativo per ogni paziente, fornendo informazioni essenziali come la storia dei farmaci e la durata del trattamento attraverso un formato visivamente accattivante.

#Vista Evento Medico

La Vista Evento Medico consolida le cartelle sanitarie di un paziente in un formato tabellare interattivo. Permette agli utenti di confrontare diversi aspetti della salute di un paziente nel tempo in modo efficiente.

#Fase II: Modellazione Iterativa Mediata dall'IA e Revisionata da Umani

Nella seconda fase, abbiamo introdotto modelli di IA nel flusso di analisi, utilizzando le intuizioni dalla prima fase per identificare le caratteristiche critiche per una modellazione efficace.

#Esperimenti Backend

Ci siamo concentrati sull'identificazione accurata di campioni positivi e negativi, raffinando il nostro approccio per includere migliori strategie di campionamento. Abbiamo adottato tecniche che avrebbero consentito una migliore interpretazione dei modelli e valutazione delle performance, identificando il modello RandomForest come una buona opzione per le predizioni.

#Visualizzazione nella Fase II

Abbiamo costruito sull'interfaccia della Fase I, aggiungendo nuove funzionalità per la modellazione e tenendo traccia dei dati utilizzati in ciascuna iterazione di modellazione.

#Vista Modellazione

In questa vista, i medici possono selezionare caratteristiche importanti che ritengono contribuiranno al modello e confrontare visivamente diversi gruppi di pazienti.

#Vista Log

La Vista Log serve come strumento di registrazione, documentando i dettagli e le metriche di performance di ciascun modello. Questo consente un miglior tracciamento e comprensione dei miglioramenti iterativi.

#Feedback e Valutazione degli Esperti

Abbiamo raccolto feedback dagli esperti per capire come percepivano il nostro sistema, focalizzandoci su tre aree: processo di co-progettazione, adattamento del flusso di lavoro e preoccupazioni sulla collaborazione con l'IA. Molti esperti hanno apprezzato l'analisi approfondita e l'integrazione del loro input nel modello di IA, che ha stimolato la creatività e migliorato i risultati.

#Conclusione

Il nostro studio presenta un approccio in due fasi che incoraggia la collaborazione tra professionisti della salute e IA. Questo sistema migliora l'efficienza e la qualità dell'analisi dei dati medici promuovendo un coinvolgimento attivo degli utenti nel processo di design e implementazione. Sebbene inizialmente focalizzato sui dati delle conseguenze, questo framework può essere esteso ad altri campi, come biologia e chimica, per compiti come la scoperta di farmaci e analisi delle proteine. Tuttavia, sfide come il bias nei dati e la necessità di test più ampi degli utenti rimangono. In generale, il nostro framework mira a migliorare la comprensione e i risultati nelle analisi mediche complesse attraverso una migliore collaborazione tra umani e IA.