Optimizando el análisis de notas clínicas para resultados de pacientes

Los desarrollos recientes en modelos de lenguaje grandes han aumentado el interés en usar procesamiento de lenguaje natural en la salud. Una área clave es trabajar con Notas Clínicas, que son documentos de texto libre que contienen información importante sobre los pacientes. Sin embargo, estas notas pueden ser bastante largas y abarcar un periodo prolongado, lo que hace difícil decidir qué partes usar al intentar predecir los resultados de los pacientes.

Cuando se usa un modelo de lenguaje que tiene un límite en la cantidad de texto que puede leer, es crucial averiguar qué secciones de las notas clínicas contienen la información más útil. Tradicionalmente, los investigadores confían en el conocimiento de expertos para seleccionar estas partes o simplemente cortan el texto extra. Sin embargo, proponemos un nuevo método para encontrar secciones que mejoren las predicciones sin necesidad de input experto.

#Características de las Notas Clínicas

Las notas clínicas en los Registros Electrónicos de Salud (EHR) tienen características distintas que complican su uso. Primero, pueden abarcar largos periodos, lo que lleva a secciones poco útiles donde se encuentra información valiosa. Segundo, estas notas suelen ser bastante largas, lo que dificulta procesarlas en su totalidad. Tercero, las notas médicas pueden ser ruidosas debido a abreviaciones y errores, lo que dificulta la extracción de información.

Dadas estas características, debemos abordar la pregunta: cuando tenemos espacio limitado para el input debido a las restricciones del modelo, ¿qué partes de las notas clínicas aún pueden proporcionar predicciones sólidas? Sugerimos un método para elegir secciones de texto con alto Poder Predictivo.

#Poder Predictivo en Diferentes Tipos de Notas

Para entender cómo varía el poder predictivo entre diferentes tipos de notas clínicas, analizamos notas clínicas de la base de datos MIMIC-III. Nuestros hallazgos muestran que las notas de enfermería y las notas de alta tienen diferentes distribuciones de poder predictivo. Las notas de alta tienden a tener más poder en las secciones iniciales y finales, mientras que las notas de enfermería muestran una fuerza predictiva consistente en sus secciones.

Además, encontramos que combinar varios tipos de notas podría mejorar el rendimiento cuando hay más contexto disponible, pero podría perjudicar el rendimiento cuando solo se tiene un contexto limitado. Esto indica que elegir qué notas incluir es un factor crítico para aumentar la precisión de la predicción.

#Métodos de muestreo para Notas Clínicas

Los métodos existentes para reducir las notas clínicas a menudo dependen del conocimiento médico establecido. Por ejemplo, algunos se enfocan solo en notas de alta ya que resumen bien las visitas de los pacientes, mientras que otros analizan notas solo de los días previos a una fecha específica. Aunque estos métodos pueden funcionar, a menudo requieren input humano y pueden no ser ampliamente aplicables.

Otro método implica agregar información de múltiples notas. Esta técnica toma partes más pequeñas de las notas y combina las salidas para predicciones finales. Sin embargo, esto puede ser costoso, especialmente para notas clínicas largas. Nuestro enfoque busca encontrar un segmento único de información rica para usar.

#Experimentando con Funciones de Muestreo

En nuestro estudio, quisimos determinar si podíamos encontrar una forma diferente de muestrear partes de las notas que pudiera igualar o superar el rendimiento del método de truncamiento típico usado en las notas de alta. Nos enfocamos en una función de muestreo que considera tanto qué partes del texto incluir como qué tipos de notas clínicas usar.

Para hacerlo, ajustamos finamente dos modelos de lenguaje clínico: Clinical-BERT y ClinicalLongformer. Estos modelos fueron entrenados para predecir si un paciente volvería al hospital dentro de los 30 días posteriores al alta. Esta es una métrica crucial en la salud, ya que ayuda en la planificación del cuidado del paciente y en la gestión de recursos hospitalarios.

#Analizando Diferentes Secciones

Al analizar el poder predictivo de varias secciones de notas de enfermería y de alta, notamos algunos patrones importantes. Para las notas de alta, las predicciones fueron notablemente más fuertes al principio y al final, mientras que las notas de enfermería entregaron una distribución más uniforme a lo largo de sus secciones.

Curiosamente, aunque las notas de enfermería proporcionaron menos poder predictivo que las notas de alta, aún ofrecieron información valiosa para las predicciones de re-admisión. Este hallazgo es especialmente útil porque las notas de enfermería son generalmente más abundantes, lo que las convierte en una opción viable para tareas de predicción cuando las notas de alta pueden no estar disponibles.

#Uso Efectivo de Tokens

Un hallazgo esencial de nuestra investigación es que simplemente usar las secciones iniciales de las notas no siempre produce los mejores resultados. Cuando asignamos tokens para cubrir tanto las secciones iniciales como finales de las notas de alta, el rendimiento aumentó en comparación con enfocarse solo en el inicio.

Esto sugiere que otras secciones pueden contener información valiosa que no debería ser ignorada. Al evitar la parte media menos predictiva de las notas, podríamos mejorar la capacidad predictiva general.

#Combinando Información de Diferentes Notas

También analizamos el efecto de mezclar diferentes tipos de notas clínicas para ver si eso mejoraría las predicciones. Nuestros tests mostraron que cuando teníamos más tokens disponibles, combinar información de varias notas resultó en un mejor rendimiento. Sin embargo, cuando el tamaño del contexto era limitado, distribuir tokens entre diferentes notas disminuyó el rendimiento.

Esto indica que con input limitado, enfocarse en las secciones de alta predicción de las notas de alta es más beneficioso que intentar incorporar información de las notas de enfermería.

#Conclusión y Direcciones Futuras

Nuestros hallazgos destacan la importancia de elegir la función de muestreo adecuada cuando se trata de tamaños de input limitados. Al seleccionar secciones de notas clínicas con alto poder predictivo, podemos mejorar la precisión de los modelos que predicen los resultados de los pacientes.

De cara al futuro, se necesita más investigación para entender las mejores estrategias para asignar contextos de input basados en la longitud máxima de las secuencias. Además, investigar cómo la autoría de las notas clínicas influye en su calidad podría mejorar aún más nuestra comprensión y aplicación del modelado predictivo en el sector salud.

Reconocemos algunas limitaciones en nuestros experimentos. Primero, el tamaño de ventana fijo que usamos podría optimizarse aún más para cada tipo de nota. En segundo lugar, aunque intentamos una configuración de ventana fragmentada, explorar más podría proporcionar información valiosa. Por último, investigar más tipos de notas clínicas podría enriquecer nuestros hallazgos, ya que nos enfocamos solo en notas de enfermería y de alta debido a su disponibilidad.

En conclusión, nuestro trabajo sienta las bases para métodos más eficientes y efectivos de analizar notas clínicas, lo que permite un mejor cuidado del paciente y gestión de recursos en entornos de salud.