Avanços em Modelos de Linguagem para o Cuidado do Câncer de Próstata

O câncer de próstata é o tipo mais comum de câncer não relacionado à pele diagnosticado em homens nos Estados Unidos. Quando é detectado cedo ou se não se espalhou muito além da próstata, a chance de sobreviver por cinco anos é quase 100%. No entanto, receber um diagnóstico de câncer de próstata pode levar a uma queda visível na saúde mental e física de um homem.

Muitos homens ficam confusos sobre a doença, o que pode vir da falta de conhecimento. Eles também podem se sentir envergonhados de falar sobre exames físicos, como exames retais, ou discutir questões de saúde sexual com seus Médicos. Essa vergonha pode ser afetada pelo gênero do profissional de saúde. Como resultado, pacientes mais velhos ou aqueles de minorias podem ter piores resultados no atendimento.

Devido a essas incertezas e ansiedades relacionadas à saúde sexual, muitos homens buscam respostas na internet. Infelizmente, as pesquisas online podem levar a informações incompletas ou incorretas, causando mais atrasos na recepção do tratamento adequado e piorando os resultados de saúde.

#O Desafio da Informação

Quando os pacientes são diagnosticados, muita informação clínica é gerada. Isso inclui anotações de profissionais de saúde e relatórios de exames de imagem ou laboratoriais. Grande parte dessas informações é escrita em formato de texto livre, o que significa que nem sempre é fácil de analisar. Avanços recentes em tecnologia, especificamente em modelos de linguagem de grande porte (LLMs), mostram promessas em processar tais informações. Esses modelos podem ajudar a compartilhar conhecimento de forma interativa e discreta.

No entanto, acreditamos que LLMs de uso geral, como os disponíveis online, podem não funcionar tão bem em áreas médicas especializadas. Eles costumam produzir respostas vagas em vez de respostas precisas para questões médicas específicas. Eles também podem gerar informações falsas ou enganosas, o que pode ser perigoso quando se trata de tópicos médicos.

Algumas pesquisas estão em andamento para criar LLMs focados especificamente na área médica. No entanto, muitos desses modelos ainda cobrem uma ampla gama de tópicos dentro da medicina e biologia, tornando-os bastante grandes e complexos. A medicina inclui diferentes especialidades, cada uma com seu próprio conjunto de conhecimentos que pode variar bastante; por exemplo, oncologia (cuidado com câncer) é bem diferente de medicina de emergência.

#Importância dos Registros de Pacientes

O treinamento de LLMs geralmente requer grandes quantidades de dados textuais. Por exemplo, os modelos existentes foram treinados com dados obtidos da internet, sem checar a confiabilidade das fontes. Modelos Especializados foram treinados usando artigos científicos e resumos, mas uma das fontes mais importantes de informação-registros de pacientes-foi amplamente excluída devido a leis de privacidade. Essa falta de acesso a dados clínicos reais prejudica a capacidade de entender como as decisões são tomadas durante o tratamento e como se comunicar com os pacientes de forma eficaz.

As anotações clínicas contêm informações vitais sobre como médicos e pacientes interagem e tomam decisões juntos. Assim, adicionar anotações clínicas ao treinamento de modelos de linguagem é crucial para desenvolver ferramentas que realmente entendam doenças específicas.

#Nosso Trabalho em um Novo Modelo de Linguagem

Desenvolvemos um modelo de linguagem especificamente para abordar as questões dos modelos de uso geral ao lidar com informações médicas sensíveis. Focamos no câncer de próstata como nosso caso de exemplo. Em vez de fazer um modelo muito grande, criamos um com 124 milhões de parâmetros. Coletamos dados de pacientes com câncer de próstata, incluindo anotações clínicas e relatórios, para treinar nosso modelo. Também desenvolvemos técnicas de treinamento especializadas para garantir que o modelo aprendesse detalhes importantes relacionados ao câncer de próstata.

Para avaliar como nosso modelo funciona, o comparamos a outro modelo de uso geral e a um modelo especializado maior em duas tarefas principais: prever informações clínicas e responder perguntas.

#Passos no Desenvolvimento do Modelo

Começamos com o processo de coleta de dados, obtendo aprovação do comitê de ética antes de coletar anotações clínicas de 23.665 pacientes com câncer de próstata em várias unidades da Mayo Clinic. Esses dados incluíam anotações clínicas e também relatórios de exames de imagem e laboratoriais.

Os dados clínicos eram bastante extensos, totalizando cerca de 1,8 milhão de anotações. Essas anotações continham informações importantes, mas também identificadores pessoais, então tomamos medidas para garantir o anonimato de pacientes e profissionais durante o treinamento. Informações pessoais foram substituídas por tokens de espaço reservado. Também filtramos frases muito curtas ou excessivamente longas e buscamos eliminar frases repetitivas que pudessem prejudicar a compreensão do modelo durante o treinamento.

Em seguida, precisávamos marcar informações clínicas importantes relacionadas ao câncer de próstata a partir do texto livre. Usamos um sistema de vocabulário médico para padronizar e encontrar conceitos médicos relevantes. Esse processo de marcação mostrou que mais de 84% das frases continham conceitos médicos-chave. Após isso, criamos um tokenizador especializado que lida melhor com termos médicos sem quebrá-los em partes menos significativas.

#Fases de Treinamento

Treinamos nosso modelo em duas fases:

1. Treinamento Geral de Linguagem: Primeiro, treinamos o modelo com dados de texto livre de pacientes com câncer de próstata para entender a linguagem básica.

2. Treinamento Específico de Domínio: Nessa fase, focamos em ensinar o modelo a reconhecer termos clínicos específicos relacionados ao câncer de próstata. Selecionamos palavras para mascarar aleatoriamente, e o modelo aprendeu a prever esses termos mascarados com base no contexto.

Esse treinamento em duas fases garantiu que nosso modelo pudesse entender tanto a linguagem médica geral quanto específica, permitindo que ele reconhecesse links importantes entre opções de tratamento, sintomas e resultados.

#Avaliando Nosso Modelo

Após o treinamento, avaliamos o desempenho do nosso modelo em duas tarefas importantes: prever informações clínicas mascaradas e responder perguntas.

Na tarefa de previsão de informações mascaradas, testamos a capacidade do modelo de recuperar termos mascarados de frases que ele não tinha visto antes. Medimos com que frequência ele identificava corretamente os termos.

Para a tarefa de responder perguntas, criamos um conjunto de perguntas com base em diretrizes de tratamento estabelecidas para o câncer de próstata. Então avaliamos quão bem nosso modelo respondeu essas perguntas em comparação com os outros modelos. Focamos na correção, completude e relevância das respostas.

#Resultados da Nossa Avaliação

Nosso modelo teve um desempenho consistentemente melhor do que o modelo de uso geral e até superou o modelo especializado maior em ambas as tarefas. Ele foi especialmente bom em manter o vocabulário específico do câncer de próstata.

Em termos de resposta a perguntas, nosso modelo também recebeu notas mais altas em relevância dos usuários que o avaliaram. Eles acharam que nosso modelo forneceu respostas mais adaptadas e pertinentes em comparação com os outros.

Os resultados indicam os benefícios claros de desenvolver modelos de linguagem especializados para áreas médicas sensíveis. Enquanto modelos de uso geral podem oferecer capacidades impressionantes para uma ampla variedade de tarefas, eles parecem ter dificuldades em produzir respostas precisas e relevantes em contextos médicos especializados.

#Direções Futuras

Seguimos na esperança de expandir nosso trabalho para criar ferramentas que ajudem tanto pacientes quanto médicos a se comunicarem de forma mais eficaz. Um dos objetivos é construir chatbots que possam fornecer informações confiáveis sobre o tratamento do câncer de próstata com base em nosso modelo especializado. Embora coletar dados para treinar esses chatbots possa ser desafiador, buscamos explorar métodos que automatizem a geração de pares de perguntas e respostas relevantes.

Esse esforço de pesquisa é importante para melhorar a confiabilidade e especificidade das informações fornecidas na área médica, garantindo que os pacientes recebam informações precisas e relevantes de forma rápida.