Transformers en Registros Médicos Electrónicos: Una Revisión

Los hospitales y clínicas de todo el mundo recopilan información sobre la salud de los pacientes. Estudios en EE. UU. y el Reino Unido muestran que la mayoría de las instalaciones de salud utilizan sistemas para mantener esta información en registros médicos electrónicos (EMRs). Sin embargo, muchos de estos datos no están bien organizados, lo que dificulta su análisis con métodos tradicionales. Esto ha generado interés en usar técnicas de Procesamiento de Lenguaje Natural (NLP) para trabajar y obtener información de estas fuentes de datos no estructurados.

El NLP es una rama de la inteligencia artificial que ayuda a las computadoras a entender y procesar el lenguaje humano. Su desarrollo comenzó en los años 50, cuando los investigadores buscaban formas de crear algoritmos que pudieran procesar el lenguaje. En los primeros días, los métodos eran principalmente basados en reglas, lo que significaba que dependían de reglas específicas para analizar el texto. Luego, desde finales de los años 80, los investigadores comenzaron a usar métodos estadísticos, aprovechando la creciente cantidad de datos disponibles a través de internet.

En los últimos años, un nuevo método llamado transformers ha cambiado el panorama del NLP. Este modelo está diseñado para analizar palabras según su contexto dentro de una oración y lo hace de manera más eficiente que los modelos anteriores. Esta revisión examina cómo se utilizan los métodos basados en transformers en el campo de los registros médicos electrónicos para extraer información importante.

#¿Qué es el Procesamiento de Lenguaje Natural?

El procesamiento de lenguaje natural, o NLP, involucra una serie de tareas destinadas a entender y generar lenguaje humano. Combina campos como la lingüística, la informática y la inteligencia artificial. Uno de los primeros usos del NLP fue en la traducción automática durante la Segunda Guerra Mundial, donde ayudó a traducir lenguas automáticamente.

El NLP consta de varias etapas, incluyendo descomponer el texto en partes más pequeñas (tokenización) y analizar la estructura y el significado del texto. Mientras que algunas partes del NLP, como la tokenización, están bien establecidas, otras todavía están en desarrollo. Las tareas de NLP se pueden agrupar en dos categorías: entender el lenguaje y generar el lenguaje.

Las tareas clave en el sector salud que el NLP puede ayudar incluyen:

• Clasificación de Texto: Asignar etiquetas a textos según su contenido, como identificar enfermedades en registros médicos.
• Reconocimiento de Entidades Nombradas (NER): Identificar información específica en el texto, como enfermedades y fechas de tratamiento.
• Extracción de Relaciones: Entender las relaciones entre diferentes piezas de información.
• Respuesta a Preguntas: Proporcionar respuestas a consultas basadas en un conjunto de documentos o registros.
• Recuperación de Información: Encontrar documentos relevantes relacionados con las preguntas del usuario.

#¿Qué son los Transformers?

Los transformers son un tipo de arquitectura de modelo utilizada en NLP que puede manejar una secuencia de palabras de manera flexible. Usan un método llamado atención propia, que les permite concentrarse en diferentes partes de una oración dependiendo del contexto. Este enfoque hace que los transformers sean muy efectivos para varias tareas de NLP.

BERT, que significa Representaciones de Codificador Bidireccional de Transformers, es un modelo transformer bien conocido. Está preentrenado en una gran cantidad de texto, lo que le permite entender el contexto y la estructura. Como resultado, BERT puede ajustarse para realizar tareas específicas de NLP con menos datos.

#Enfoque de la Investigación

El objetivo principal de esta revisión es analizar cómo se están aplicando los modelos transformer a los registros médicos electrónicos, especialmente en el contexto de las tareas de NLP. Nos interesa identificar los tipos de problemas médicos que se están abordando, las tareas específicas de NLP involucradas, los modelos y técnicas utilizadas, los datos disponibles y la reproducibilidad de los estudios.

En nuestra búsqueda, revisamos una variedad de artículos para recopilar información completa. Filtramos los resultados según criterios específicos, enfocándonos principalmente en estudios que utilizaron modelos transformer. En total, examinamos 65 artículos que cumplían con nuestros criterios de selección.

#Hallazgos

#Tipos de Problemas Médicos

La mayoría de los estudios se centraron en extraer información de registros de pacientes no estructurados. Esta tarea sola representó más de la mitad del trabajo analizado. Otros problemas médicos comunes incluían predicciones relacionadas con la readmisión de pacientes e identificación de condiciones de salud específicas.

#Tareas de NLP

Las dos tareas de NLP más comunes encontradas en la investigación fueron el reconocimiento de entidades nombradas y la extracción de relaciones, que juntas representaron casi la mitad de los estudios. La clasificación de texto también tuvo un papel destacado, mostrando que los investigadores están interesados en identificar etiquetas relevantes para los registros de pacientes.

#Modelos y Técnicas

La investigación mostró una clara preferencia por los modelos basados en transformers, siendo BERT y variaciones similares los más utilizados. Se introdujeron algunos modelos nuevos, pero la mayoría de los estudios se basaron en métodos establecidos. También se mencionaron técnicas de aprendizaje automático tradicionales, pero se usaron con menos frecuencia.

#Disponibilidad de Conjuntos de Datos

Los conjuntos de datos juegan un papel crucial en la investigación de NLP. Muchos estudios utilizaron conjuntos de datos de acceso público, como MIMIC-III o el conjunto de datos n2c2, aunque algunos utilizaron conjuntos de datos privados pertenecientes a hospitales específicos. Notamos una falta de variedad en los idiomas de los conjuntos de datos, con la mayoría de los estudios centrados en inglés y chino.

#Reproducibilidad de Estudios

Una preocupación clave descubierta durante la revisión fue la reproducibilidad de los estudios. Solo un pequeño número de estudios proporcionó suficiente información para que sus resultados fueran replicables. Esto limita la fiabilidad de los hallazgos de la investigación y plantea preguntas sobre su validez.

#Desafíos y Recomendaciones

Varios desafíos surgieron de la revisión. El primero es la significativa falta de reproducibilidad en la investigación publicada. Muchos estudios no comparten su código fuente o conjuntos de datos, lo que dificulta que otros investigadores realicen trabajos de seguimiento o verifiquen resultados. Hay una necesidad de prácticas más transparentes en la comunidad de investigación.

Otro desafío concierne al enfoque de los estudios actuales. La mayoría de los esfuerzos están concentrados en el reconocimiento de entidades nombradas, mientras que otras tareas relevantes de NLP reciben menos atención. Este enfoque limitado restringe la comprensión general de cómo se puede aplicar el NLP a los registros médicos electrónicos.

Además, los esfuerzos de investigación están concentrados en inglés y chino, lo que significa que los hallazgos pueden no ser aplicables de manera universal. La industria debe considerar un rango más amplio de idiomas para hacer la investigación más inclusiva.

Para abordar estos desafíos, sugerimos que los investigadores prioricen la desidentificación de datos sensibles, lo que permitiría más conjuntos de datos públicos. Compartir el código fuente de manera abierta fortalecería la credibilidad de los estudios. Además, utilizar formatos estándar para los datos facilitaría la colaboración entre la academia y la industria, ayudando a que la investigación tenga un mayor impacto.

#Conclusión

Esta revisión proporcionó un análisis completo del estado actual de la investigación sobre modelos basados en transformers aplicados a registros médicos electrónicos utilizando técnicas de NLP. Los hallazgos destacaron el crecimiento del interés en este área y señalaron importantes vacíos que los futuros estudios deberían abordar.

Al centrarse en mejorar la reproducibilidad y ampliar el rango de problemas médicos estudiados, los investigadores pueden mejorar la efectividad de su trabajo. Compartir datos y usar formatos estandarizados ayudará a cerrar la brecha entre la investigación y la aplicación práctica, beneficiando en última instancia a la comunidad de la salud.