Avances en Modelos de Lenguaje para el Cuidado del Cáncer de Próstata

El cáncer de próstata es el tipo más común de cáncer no cutáneo diagnosticado en hombres en Estados Unidos. Si se detecta a tiempo o si no se ha propagado mucho más allá de la próstata, la posibilidad de sobrevivir cinco años es casi del 100%. Sin embargo, recibir un diagnóstico de cáncer de próstata a menudo puede llevar a un notable deterioro en la salud mental y física de un hombre.

Muchos hombres se sienten confundidos sobre la enfermedad, lo cual puede deberse a la falta de conocimiento. También pueden sentirse avergonzados de hablar sobre exámenes físicos, como los exámenes rectales, o de discutir problemas de salud sexual con sus doctores. Esta vergüenza a veces puede verse afectada por el género del proveedor de salud. Como resultado, los pacientes mayores o aquellos de minorías pueden experimentar peores resultados en su atención.

Debido a estas incertidumbres y ansiedades relacionadas con la salud sexual, muchos hombres recurren a internet para encontrar respuestas. Desafortunadamente, las búsquedas en línea pueden llevar a información incompleta o incorrecta, lo que provoca retrasos en recibir el tratamiento adecuado y empeora los resultados de salud.

#El Desafío con la Información

Cuando se diagnostica a los pacientes, se genera mucha información clínica. Esto incluye notas de proveedores de salud y reportes de pruebas de imagen o laboratorio. Gran parte de esta información está escrita en formato de texto libre, lo que significa que no siempre es fácil de analizar. Los avances recientes en tecnología, específicamente en modelos de lenguaje grande (LLMs), muestran promesas para procesar dicha información. Estos modelos pueden ayudar a compartir conocimiento de manera interactiva y discreta.

Sin embargo, creemos que los LLMs de propósito general, como los disponibles en línea, pueden no funcionar tan bien en campos MédicosEspecializados. A menudo producen respuestas vagas en lugar de respuestas precisas a preguntas médicas específicas. También a veces crean información falsa o engañosa, lo que puede ser peligroso en temas médicos.

Algunas investigaciones están en marcha para crear LLMs que se enfoquen específicamente en el campo médico. Sin embargo, muchos de estos modelos aún cubren una amplia gama de temas dentro de la medicina y la biología, haciéndolos bastante grandes y complejos. La medicina incluye diferentes especialidades, cada una con su propio conjunto de conocimientos que pueden variar ampliamente; por ejemplo, la oncología (cuidado del cáncer) es bastante diferente de la medicina de emergencia.

#Importancia de los Registros de Pacientes

Entrenar LLMs generalmente requiere grandes cantidades de datos textuales. Por ejemplo, los modelos existentes se han entrenado con datos extraídos de internet, sin verificar la confiabilidad de las fuentes. Los modelos especializados se han entrenado utilizando artículos científicos y resúmenes, pero una de las fuentes más importantes de información-los registros de pacientes-ha sido excluida en gran medida debido a las leyes de privacidad. Esta falta de acceso a datos clínicos reales dificulta su capacidad para entender cómo se toman decisiones durante el tratamiento y cómo comunicarse con los pacientes de manera efectiva.

Las Notas Clínicas contienen información vital sobre cómo los doctores y pacientes interactúan y toman decisiones juntos. Por lo tanto, agregar notas clínicas al entrenamiento de modelos de lenguaje es crucial para desarrollar herramientas que realmente entiendan enfermedades específicas.

#Nuestro Trabajo en un Nuevo Modelo de Lenguaje

Hemos desarrollado un modelo de lenguaje específicamente para abordar los problemas de los modelos de propósito general al manejar información médica sensible. Nos enfocamos en el cáncer de próstata como nuestro caso de ejemplo. En lugar de hacer un modelo muy grande, creamos uno que tiene 124 millones de parámetros. Recopilamos datos de pacientes con cáncer de próstata, incluidas notas clínicas y reportes, para entrenar nuestro modelo. También desarrollamos técnicas de entrenamiento especializadas para asegurarnos de que el modelo aprendiera detalles importantes relacionados con el cáncer de próstata.

Para evaluar qué tan bien funciona nuestro modelo, lo comparamos con otro modelo de propósito general y un modelo especializado más grande en dos tareas principales: predecir información clínica y responder preguntas.

#Pasos en el Desarrollo del Modelo

Comenzamos con el proceso de recopilación de datos, obteniendo aprobación de la junta de revisión interna antes de recopilar notas clínicas de 23,665 pacientes con cáncer de próstata en múltiples ubicaciones de Mayo Clinic. Estos datos incluyeron notas clínicas, así como reportes de imágenes y pruebas de laboratorio.

Los datos clínicos eran bastante extensos, totalizando alrededor de 1.8 millones de notas. Estas notas contenían información importante pero también identificadores personales, así que tomamos medidas para asegurar la anonimidad del paciente y el proveedor durante el entrenamiento. La información personal fue reemplazada por tokens de marcador de posición. También filtramos oraciones muy cortas o excesivamente largas, y buscamos eliminar frases repetitivas que pudieran distorsionar la comprensión del modelo durante el entrenamiento.

A continuación, necesitábamos marcar información clínica importante relacionada con el cáncer de próstata del texto libre. Usamos un sistema de vocabulario médico para estandarizar y encontrar conceptos médicos relevantes. Este proceso de marcado mostró que más del 84% de las oraciones contenían conceptos médicos clave. Después de completar esto, creamos un tokenizador especializado que maneja mejor los términos médicos sin descomponerlos en partes menos significativas.

#Fases de Entrenamiento

Entrenamos nuestro modelo en dos fases:

1. Entrenamiento de Lenguaje General: Primero entrenamos el modelo con datos de texto libre de pacientes con cáncer de próstata para entender el lenguaje básico.

2. Entrenamiento Específico del Dominio: En esta fase, nos enfocamos en enseñar al modelo a reconocer términos clínicos específicos relacionados con el cáncer de próstata. Seleccionamos palabras para enmascarar al azar, y el modelo aprendió a predecir estos términos enmascarados según el contexto.

Este entrenamiento en dos fases aseguró que nuestro modelo pudiese entender tanto el lenguaje médico general como el específico, permitiéndole reconocer enlaces importantes entre opciones de tratamiento, síntomas y resultados.

#Evaluando Nuestro Modelo

Después del entrenamiento, evaluamos el rendimiento de nuestro modelo en dos tareas importantes: predecir información clínica enmascarada y responder preguntas.

En la tarea de predicción de información enmascarada, probamos la capacidad del modelo para recuperar términos enmascarados de oraciones que no había visto antes. Medimos con qué frecuencia identificó correctamente los términos.

Para la tarea de respuesta a preguntas, creamos un conjunto de preguntas basado en pautas establecidas de tratamiento del cáncer de próstata. Luego evaluamos qué tan bien nuestro modelo respondió estas preguntas en comparación con los otros modelos. Nos enfocamos en la corrección, completitud y relevancia de las respuestas.

#Resultados de Nuestra Evaluación

Nuestro modelo consistentemente tuvo un mejor desempeño que el modelo de propósito general e incluso superó al modelo especializado más grande en ambas tareas. Fue especialmente bueno en mantener el vocabulario específico del cáncer de próstata.

En términos de respuesta a preguntas, nuestro modelo también recibió puntuaciones más altas por relevancia de los usuarios que lo evaluaron. Encontraron que nuestro modelo proporcionó respuestas más personalizadas y pertinentes en comparación con los demás.

Los resultados indican los claros beneficios de desarrollar modelos de lenguaje especializados para áreas médicas sensibles. Mientras que los modelos de propósito general pueden ofrecer capacidades impresionantes para una amplia variedad de tareas, parecen tener problemas para producir respuestas precisas y relevantes en contextos médicos especializados.

#Direcciones Futuras

De cara al futuro, esperamos expandir nuestro trabajo para crear herramientas que ayuden a pacientes y doctores a comunicarse de manera más efectiva. Un objetivo es construir chatbots que puedan proporcionar información confiable sobre el tratamiento del cáncer de próstata basado en nuestro modelo especializado. Aunque recopilar datos para entrenar estos chatbots puede ser un desafío, nuestro objetivo es explorar métodos que automaticen la generación de pares de preguntas y respuestas relevantes.

Este esfuerzo de investigación es importante para mejorar la confiabilidad y especificidad de la información proporcionada en el campo médico, asegurando que los pacientes reciban información precisa y relevante de manera oportuna.