Gerando Registros de Saúde Sintéticos com GPT

Prontuários eletrônicos de saúde (EHRs) são super importantes pra pesquisa em saúde, ajudando médicos a entender doenças, acompanhar medicação e melhorar o cuidado com os pacientes. Mas, acessar Dados reais de EHR pode ser complicado por causa das regras de privacidade e limites de compartilhamento de dados. Pra resolver isso, foram criados EHRs sintéticos. Esses prontuários sintéticos parecem dados de saúde reais, mas não pertencem a nenhuma pessoa específica, permitindo que pesquisadores façam perguntas sem violar a privacidade.

Apesar dos benefícios, muitos métodos de criação de EHRs sintéticos deixam de lado alguns detalhes importantes, especialmente como eventos de saúde acontecem ao longo do Tempo. Por exemplo, quando uma pessoa visita um médico, recebe medicação ou tem resultados de exames, a ordem e o tempo desses eventos são fundamentais. Manter o controle desses detalhes é crucial pra entender melhor o cuidado com os pacientes.

Recentemente, Transformers Pré-treinados Generativos (GPT) têm sido usados pra criar dados de saúde sintéticos. Essa abordagem pode melhorar a análise da progressão de doenças, estimar populações e gerar novos dados sintéticos. Nosso foco é usar GPT pra criar EHRs sintéticos que reflitam com precisão as linhas do tempo dos pacientes e que possam ser facilmente convertidos pra um formato de dados comum chamado OMOP.

#A Importância dos Dados Sintéticos

Ter acesso a EHRs reais é essencial pra várias atividades na área da saúde, incluindo pesquisa sobre medicamentos e aprendizado de máquina em ambientes clínicos. Infelizmente, usar dados reais traz muitos desafios. Questões como privacidade e segurança, além de regras rígidas de compartilhamento de dados, dificultam que os pesquisadores consigam os dados que precisam. Dados sintéticos oferecem uma solução, proporcionando uma maneira segura e rápida de acessar informações de saúde pra impulsionar o progresso em diferentes áreas, como ambientes clínicos e pesquisa acadêmica.

Dados sintéticos imitam as estatísticas e comportamentos das populações de pacientes sem ligar a nenhuma pessoa real. Isso permite que muitos pesquisadores respondam suas perguntas sem se preocupar com privacidade ou passar pelo longo processo de acessar dados reais. Avanços recentes em aprendizado de máquina permitiram a criação de dados sintéticos a partir de EHRs reais, mas ainda assim, muitas técnicas existentes têm dificuldade em capturar o momento e as relações importantes dos eventos em cenários médicos.

Um conjunto de dados sintéticos eficaz deve manter as conexões entre as características relacionadas ao tempo, permitindo que os pesquisadores testem modelos de aprendizado de máquina em diferentes populações com precisão. Pra tarefas preditivas, os dados sintéticos devem manter as linhas do tempo dos pacientes intactas, já que até mudanças pequenas podem impactar bastante as previsões. Um conjunto de dados sintéticos é considerado bem-sucedido quando atende a dois critérios: deve mostrar resultados semelhantes aos dados originais e modelos de aprendizado de máquina treinados com esses dados sintéticos devem funcionar bem, assim como aqueles treinados com dados reais.

#Desafios na Geração de Dados Sintéticos de EHR

A maior parte da pesquisa atual sobre EHRs sintéticos foca principalmente no desenvolvimento de novos modelos de aprendizado profundo. Contudo, muitos desses métodos não dão atenção suficiente pra manter os detalhes importantes do timing intactos. Como resultado, conjuntos de dados de EHRs sintéticos gerados dessa maneira têm dificuldade em suportar tarefas que precisam de linhas do tempo precisas dos pacientes, como prever readmissões hospitalares ou o risco de problemas de saúde futuros.

Outro problema com os dados sintéticos de EHR é a adoção limitada devido à falta de padrões. Se os dados sintéticos de pacientes não conseguem se encaixar facilmente em um formato comum, os pesquisadores terão dificuldades em usá-los em suas análises. Até agora, os métodos existentes não abordaram essa necessidade de um formato padrão em suas estruturas.

Acreditamos que dados sintéticos de séries temporais devem capturar as características essenciais de diferentes EHRs enquanto também atendem a requisitos específicos de timing. Isso inclui alinhar a idade de início dos pacientes, o ano em que começaram a buscar atendimento, a duração das internações e os intervalos entre as visitas. Além disso, qualquer dado sintético de EHR deve se encaixar em modelos padrão como o Modelo de Dados Comuns OMOP pra torná-lo facilmente acessível a um público mais amplo.

#A Estrutura CEHR-GPT

Nossa abordagem, chamada CEHR-GPT, tem como objetivo fornecer um fluxo de trabalho completo para gerar dados sintéticos de EHR de séries temporais. Aqui estão as principais contribuições desse trabalho:

1. Criamos uma nova representação do paciente que mantém todas as informações significativas, incluindo os tipos de visitas e as instalações de tratamento, enquanto também preserva os detalhes de timing como anos de início, idades e intervalos de tempo entre as visitas. Até onde sabemos, essa é a primeira vez que as informações de timing são totalmente retidas.

2. Tratamos a geração de sequências de pacientes como um desafio de modelagem de linguagem. Isso nos permite usar um modelo GPT pra entender e criar sequências de pacientes.

3. Nossas sequências sintéticas podem ser convertidas para o formato OMOP com perda mínima de informações de timing. Essa conversão torna nossos dados sintéticos fáceis de avaliar e compartilhar.

4. Avaliamos os dados sintéticos de EHR de três maneiras: observando a distribuição dos dados, examinando as relações entre os eventos e verificando como os modelos de aprendizado de máquina se saem usando esses dados.

#Trabalhos Relacionados

Trabalhos anteriores na geração de EHRs sintéticos geralmente se baseavam em Redes Adversariais Generativas (GANs). Embora os pesquisadores tenham tido sucesso com GANs desde 2017, eles normalmente eram limitados a formatos tabulares que não conseguiam capturar a natureza relacionada ao tempo dos dados de EHR. Pesquisas mais recentes começaram a explorar métodos pra lidar com esse problema. Alguns métodos usaram uma combinação de técnicas pra lidar melhor com dados de séries temporais, mas muitos ainda falham em gerar timestamps precisos para visitas médicas.

Pra melhorar esses esforços existentes, foi proposto um algoritmo de aprendizado em duas etapas pra criar dados com timestamps. Isso envolvia aprender representações de visitas e simular dados, mas ainda deixou alguns desafios não resolvidos. As dificuldades incluíam negligenciar vários tipos de dados de EHR, assumir que as visitas aconteciam no mesmo dia, e não reter detalhes específicos sobre tipos de visitas e locais de alta.

Até recentemente, a maioria das abordagens de geração de EHRs sintéticos se concentrou em GANs, que são notoriamente difíceis de treinar. Isso levou a inconsistências na qualidade dos dados gerados. Em contraste, tratar a geração de sequências de pacientes como uma tarefa de modelagem de linguagem mostrou-se promissor. Um método usou GPT pra prever caminhos de pacientes, mas teve dificuldades em capturar o timing dos eventos de forma confiável.

#Nossa Abordagem para a Representação do Paciente

Desenvolvemos uma representação do paciente no CEHR-GPT que captura eventos e linhas do tempo essenciais, permitindo que utilizemos modelos de linguagem grandes de forma eficaz. Essa representação inclui os dados demográficos junto com o histórico do paciente e detalhes de timing. A sequência começa com informações demográficas, incluindo a idade inicial do paciente, o ano de sua primeira visita e seu gênero e raça. Cada visita é representada por blocos separados por tokens que indicam lacunas de tempo em dias.

Para longas lacunas de tempo, agrupamos isso em um token especial devido à sua baixa frequência. Cada bloco de visita começa com um token de tipo de visita, seguido por registros de saúde organizados por tempo. Para internações, diferenciamos os registros do mesmo dia usando tokens especiais.

Essa representação torna possível converter dados de um modelo padrão em sequências de pacientes sem perder nenhum detalhe de timing. Nossa avaliação indica que essa representação do paciente retém informações essenciais perfeitamente.

#Codificador e Decodificador OMOP

Pra criar sequências de pacientes, começamos adicionando prompts demográficos do banco de dados OMOP, que inclui dados críticos como a idade do paciente, ano da primeira visita, gênero e raça. Em seguida, construímos uma série de blocos de visita que representam toda a jornada médica do paciente. Inserimos tokens de tempo pra indicar lacunas entre essas visitas. Dentro de cada bloco de visita, reunimos todos os registros relevantes organizados por suas timestamps. Pra visitas de internação, precisamos organizar os registros cuidadosamente e inserir tokens adicionais pra capturar o timing entre os eventos.

Uma vez que temos essas sequências, usamos um modelo GPT que aplica decodificadores de transformadores padrão pra aprender como gerar novas sequências de pacientes com base no input que fornecemos. As sequências sintetizadas podem então ser convertidas de volta pro formato OMOP, garantindo que mantenhamos uma representação robusta da história de saúde do paciente.

#Testes e Resultados

Derivamos sequências de pacientes de um grande conjunto de dados e então criamos versões sintéticas usando nosso modelo. Durante o treinamento, conseguimos manter um equilíbrio na distribuição dos eventos de saúde em comparação com os dados reais. Também avaliamos quão bem diferentes modelos se saíram com base nos dados sintéticos gerados.

Analisamos três graus de avaliação: distribuição dos eventos de saúde, relações entre esses eventos e quão bem os modelos se saíram quando treinados com nossos dados sintéticos. Comparando os resultados com os de registros reais, avaliamos quão semelhantes eram as tendências.

Nossas descobertas mostraram que conjuntos de dados sintéticos gerados com várias abordagens realmente se comportam de maneira diferente quando comparados aos dados reais. No entanto, nosso método se destacou em preservar o timing crucial dos eventos, que é vital pra entender com precisão os históricos dos pacientes.

#Avaliações de Privacidade

Privacidade é uma preocupação séria ao usar dados reais de saúde. Avaliamos como os dados sintéticos respeitam a privacidade e a confidencialidade. Observamos os riscos potenciais que poderiam surgir quando alguém tenta identificar um paciente real a partir dos dados sintéticos gerados.

Simulamos dois tipos de ataques de privacidade: um que envolve apenas o conjunto de dados sintético e outro que poderia envolver consultas ao próprio modelo. Em ambos os casos, enquanto os atacantes tiveram algum sucesso, a precisão de suas tentativas permaneceu em torno de 50%, sugerindo que a privacidade foi amplamente mantida em nossos conjuntos de dados sintéticos.

#Conclusão

Esse trabalho demonstra um esforço inédito de usar GPT pra gerar dados sintéticos de EHR. Ao criar uma representação do paciente que retém linhas do tempo e detalhes de eventos essenciais, conseguimos produzir sequências de pacientes realistas. Os resultados mostram que nossos dados sintéticos se assemelham bastante aos registros reais de pacientes, tornando-se uma ferramenta valiosa na pesquisa em saúde.

Resumindo, apresentamos um método inovador pra gerar dados sintéticos de EHR enquanto preservamos informações críticas de timing. Esse método pode ajudar pesquisadores a estudar padrões de saúde sem comprometer a privacidade dos pacientes. Trabalhos futuros vão aprimorar ainda mais essa abordagem pra aumentar a precisão e relevância dos conjuntos de dados sintéticos em aplicações clínicas.