Comparando Sistemas de IA na Previsão do Risco de Delírio

Esse artigo analisa quão bem dois sistemas preveem o risco de delirium, uma condição séria que pode afetar pacientes, especialmente aqueles em ambientes de Saúde. Os sistemas comparados são o GPT-4, um grande modelo de linguagem (LLM), e o clinalytix Medical AI, que foi projetado especificamente para fins médicos.

#Resultados sobre Desempenho

O estudo descobriu que o GPT-4 teve dificuldades em identificar pacientes que estavam em risco de desenvolver delirium. Ele perdeu uma grande quantidade de casos que eram positivos verdadeiros, ou seja, não conseguiu reconhecer pacientes que realmente estavam em risco. Em contraste, o clinalytix Medical AI teve um desempenho muito melhor em fazer previsões precisas sobre o risco de delirium.

A análise das saídas do GPT-4 revelou razões para seu desempenho fraco. Isso se alinha com problemas já notados em outros estudos sobre LLMs em tarefas clínicas. No geral, ficou claro que os LLMs têm dificuldades em diagnosticar problemas de saúde e interpretar dados que vêm de ambientes clínicos.

#O Papel dos LLMs na Saúde

Apesar de suas limitações, LLMs como o GPT-4 ainda têm potencial na saúde. Porém, usar eles para tomar decisões clínicas independentes não é uma boa ideia no momento. Em vez disso, esses modelos devem ser usados como ferramentas para ajudar os profissionais de saúde, que precisam continuar sendo os principais tomadores de decisão no cuidado ao paciente.

#Interesse em Processamento de Linguagem Natural (NLP)

Os profissionais de saúde estão cada vez mais interessados em usar tecnologias de processamento de linguagem natural (NLP). Essas tecnologias podem analisar e interpretar informações médicas, o que pode beneficiar a saúde. Modelos de linguagem clínica têm potencial para melhorar a saúde processando uma ampla gama de literatura médica e dados clínicos do mundo real.

Um exemplo notável de progresso nesse espaço é o Med-PaLM, que foi o primeiro sistema de IA a se sair bem no Exame de Licenciamento Médico dos EUA (USMLE). Com mais avanços, o Med-PaLM 2 obteve uma alta pontuação em questões do estilo USMLE. Outra versão, o Med-PaLM M, pode analisar informações de várias fontes de dados médicos, incluindo imagens e registros de saúde.

#O Desafio de Usar LLMs em Configurações Clínicas

O estudo levanta a questão sobre se os LLMs podem ser usados efetivamente em ambientes clínicos. Os modelos atuais alertam contra seu uso na tomada de decisões clínicas, mas espera-se que ao longo do tempo construam tanto confiança quanto um senso de confiabilidade. O objetivo final é que os modelos alcancem um nível de precisão que iguale ou até supere o dos clinicos humanos.

#Visão Geral do Estudo

O estudo teve como objetivo comparar o desempenho do GPT-4 com o clinalytix Medical AI na Previsão de risco de delirium. Dados foram coletados de 190 casos que incluíam pacientes com e sem delirium. O conjunto de dados continha texto livre de registros eletrônicos de saúde (EHRs) e dados estruturados como testes laboratoriais e registros de medicação.

Para o clinalytix Medical AI, um método específico de calibração foi usado para previsões. Com o GPT-4, todas as informações foram reformatadas como texto. Quando o tamanho dos dados excedeu o que o GPT-4 poderia processar, informações mais antigas foram removidas até que os dados se ajustassem às limitações do modelo. O objetivo era que o modelo avaliasse cada caso e fornecesse uma pontuação de risco para delirium.

#Comparação de Desempenho

Os resultados mostraram uma diferença clara entre os dois modelos. O clinalytix Medical AI foi significativamente mais preciso em prever o risco de delirium. O GPT-4 fez apenas uma previsão falsa positiva, avaliando um caso como estando em risco. No entanto, deixou de captar cerca de 38% dos pacientes que realmente estavam em risco, resultando em muitos falsos negativos.

#Necessidade de Informações Adicionais

Prever o risco de delirium é apenas uma parte da equação da saúde. Informações adicionais são necessárias para decidir sobre o tratamento adequado. O clinalytix Medical AI vai além de apenas fazer previsões e fornece uma pontuação de probabilidade calibrada que reflete com precisão a probabilidade de delirium. Por outro lado, o GPT-4 não ofereceu estimativas de probabilidade confiáveis, mesmo quando solicitado.

#Importância da Explicabilidade

A explicabilidade é vital nas previsões de risco clínico porque os profissionais de saúde precisam entender por que um modelo faz previsões específicas. Técnicas como LIME e SHAP foram usadas no clinalytix Medical AI para ajudar a revelar o raciocínio por trás das previsões. Com o GPT-4, explicações são geradas quando solicitadas, mas às vezes podem ser enganosas. O LLM pode produzir explicações que soam plausíveis, mas que podem não refletir uma verdadeira percepção, levantando preocupações sobre sua validade.

#Entendendo as Mispredições

O estudo investigou por que o GPT-4 fez previsões incorretas. Algumas razões potenciais incluem:

1. Limitações da Janela de Contexto: O GPT-4 tem um limite máximo de quanto texto pode processar de uma vez. Se os dados de um paciente ultrapassarem esse limite, informações importantes podem ser perdidas, levando a erros nas previsões.

2. Prever Risco vs. Detectar Condições: O LLM às vezes identificava termos importantes, mas não indicava um nível de risco se não houvesse sinais claros de delirium. Isso significa que ele agiu mais como um detector de delirium do que avaliando níveis de risco, o que poderia impactar a precisão.

3. Preferência pelo Tipo de Dado: O modelo dependia fortemente de dados textuais, mas tinha dificuldade em interpretar resultados laboratoriais ou outros dados estruturados. Isso tem sido documentado como um desafio comum para LLMs.

#Natureza Complexa dos LLMs

Dada a complexidade dos LLMs, não é fácil determinar por que eles fazem previsões específicas. A investigação descobriu que usar apenas o GPT-4 não era uma maneira confiável de avaliar o risco de delirium. Ele frequentemente perdia casos positivos e evitava indicar risco, a menos que sinais muito claros estivessem presentes. Vários fatores contribuíram para esses problemas, incluindo limites na quantidade de dados que o modelo poderia processar, como abordava a tarefa e quais tipos de dados priorizava.

#O Desafio das Janelas de Contexto

Durante o estudo, o GPT-4 teve uma janela de contexto de 8.000 tokens, o que significa que, se os dados do paciente ultrapassassem isso, precisavam ser encurtados. Essa truncagem poderia resultar na perda de informações valiosas que poderiam ajudar o modelo a fazer previsões melhores. Avanços nos LLMs resultaram em modelos com janelas de contexto maiores, como o Claude 2.1, que pode processar 200.000 tokens. No entanto, mesmo essas janelas maiores enfrentam problemas porque os LLMs costumam se concentrar nas informações no início ou no final da entrada e podem ignorar detalhes cruciais no meio.

#Diferenças no Desempenho dos Modelos

Uma pergunta importante é se os problemas com o GPT-4 são únicos para este modelo específico ou se outros modelos mostrariam resultados similares. Estudos recentes revelam que mesmo os melhores LLMs muitas vezes não diagnosticam pacientes com a precisão dos médicos humanos. Tem-se notado que os LLMs não seguem diretrizes clínicas estabelecidas, sugerindo que ainda não estão adequados para tomar decisões clínicas independentes.

#Por Que os LLMs Têm Dificuldades em Aplicações do Mundo Real

Embora alguns LLMs tenham mostrado que podem responder a perguntas médicas de forma eficaz, o verdadeiro desafio surge em cenários complexos e do mundo real. Dados clínicos reais são diversos e incluem muitos tipos, dificultando a análise precisa pelos LLMs. Na verdade, pesquisas mostram que mais dados podem, na verdade, reduzir o desempenho dos LLMs se não focarem nos detalhes relevantes.

#Variabilidade de Comportamento nos LLMs

Os LLMs se comportam de maneira inconsistente, o que pode afetar seu desempenho. Por exemplo, apenas mudar a ordem das informações pode levar a saídas muito diferentes. Essa inconsistência não é tipicamente vista com médicos humanos, indicando problemas potenciais com os LLMs. Além disso, o modelo frequentemente favorecia texto em vez de dados tabulares, como resultados laboratoriais.

#Cuidado no Uso

A natureza generativa dos LLMs permite que eles produzam texto que pode soar sensato, mas não garante precisão. Estudos mostram diferenças significativas nos diagnósticos feitos por LLMs em comparação com os feitos por especialistas humanos. Pesquisas anteriores descobriram que, embora os LLMs pudessem oferecer sugestões razoáveis, muitas vezes perdiam insights mais complexos, o que enfatiza a necessidade de supervisão humana.

#Conclusão

As descobertas apontam para as limitações dos LLMs como o GPT-4 em prever com precisão o risco de delirium quando comparados a sistemas especializados como o clinalytix Medical AI. Os modelos atuais lutam com as complexidades dos dados médicos do mundo real. Embora os LLMs possam ajudar os profissionais de saúde, eles não deveriam substituí-los na tomada de decisões clínicas críticas. A supervisão humana ainda é necessária para garantir o melhor cuidado aos pacientes.