Evaluando la Equidad de los Algoritmos en la Atención Médica

Las decisiones en salud están cada vez más apoyadas en programas de computadora que utilizan datos para ayudar a tomar decisiones. Estos programas pueden mejorar la atención al paciente, pero también pueden llevar a un trato injusto entre diferentes grupos raciales y étnicos. Una razón de este problema es que los datos que utilizan estos programas a menudo carecen de información clara sobre la raza o etnicidad de una persona. Esto puede resultar en conclusiones incorrectas sobre cuán justos o sesgados son estos algoritmos.

En este artículo, explicamos nuevos métodos que ayudan a evaluar si estos algoritmos funcionan de manera justa entre grupos, incluso cuando los datos no son perfectos. Mostramos cómo estimar los errores que pueden surgir al usar información sobre la raza y etnicidad de una persona para evaluar el rendimiento de estos algoritmos. Esto es importante para tomar mejores decisiones sobre cómo usar herramientas de aprendizaje automático en la atención médica.

#Algoritmos de Soporte a Decisiones Clínicas

Los algoritmos de soporte a decisiones clínicas (CDSAs) son programas de computadora utilizados por proveedores de salud para decidir los mejores tratamientos para los pacientes. Estos algoritmos pueden ayudar a identificar riesgos, sugerir exámenes y hasta asignar recursos como órganos para trasplantes. Aunque estas herramientas ofrecen ventajas significativas, también pueden empeorar las disparidades en la atención médica entre diferentes grupos debido a su dependencia de datos históricos que pueden reflejar inequidades pasadas.

Por ejemplo, un algoritmo que decide cómo asignar recursos para el manejo de enfermedades crónicas podría perjudicar a ciertos grupos raciales y étnicos si utiliza el uso previo de atención médica como indicador de necesidad. Muchas veces, estos algoritmos no ofrecen resultados justos y pueden empeorar las desigualdades existentes en la atención.

Cuando hablamos de injusticia en los algoritmos, usamos el término "Sesgo Algorítmico". Esto es diferente de la comprensión tradicional del sesgo en estadísticas. Hay formas de reducir este sesgo, pero generalmente dependen de tener información precisa sobre la población. Desafortunadamente, en la atención médica, los datos sobre raza y etnicidad a menudo son incompletos o poco confiables.

#Limitaciones de los Datos

En muchas situaciones, las organizaciones de atención médica pueden tener solo información incompleta o inexacta sobre la raza o etnicidad de una persona. Esto puede suceder por razones de privacidad, limitaciones en la forma en que se recolectan los datos, o por otros motivos. Cuando dependemos de estos datos defectuosos, podríamos sacar conclusiones incorrectas sobre cuán justos o sesgados es un algoritmo.

Usar información de proxy, como estimaciones basadas en apellidos o datos censales, puede ayudar a llenar estos vacíos. Sin embargo, estos métodos pueden introducir sesgos adicionales, lo que afecta los resultados. Es crucial tener cuidado al usar tales proxies para evaluar el rendimiento algorítmico.

#Marco Estadístico para la Equidad Algorítmica

Para analizar el rendimiento de estos algoritmos de manera justa, podemos categorizar a los individuos según su raza y etnicidad y luego observar qué tan bien el algoritmo predice resultados para cada grupo. Al hacer esto, podemos identificar disparidades en el rendimiento que podrían indicar sesgo.

Por ejemplo, podríamos medir con qué frecuencia el algoritmo hace predicciones correctas para diferentes grupos raciales o étnicos. Algunas métricas clave para evaluar la equidad incluyen:

• Tasa de falsos negativos: el porcentaje de individuos que se predice que no tienen una condición cuando en realidad sí la tienen.
• Tasa de falsos positivos: el porcentaje de individuos que se predice que tienen una condición cuando no la tienen.
• Precisión general: con qué frecuencia el algoritmo es correcto en sus predicciones.

Al analizar estas métricas entre diferentes grupos, podemos obtener información sobre la justicia de los algoritmos.

#Análisis de Sensibilidad para Evaluar Sesgo

Un desafío al evaluar el sesgo usando probabilidades de pertenencia a grupos es que si las probabilidades son inexactas, puede llevar a evaluaciones sesgadas del rendimiento del algoritmo. Para abordar esto, podemos llevar a cabo un análisis de sensibilidad. Esto implica estimar cómo los errores en las probabilidades de pertenencia a grupos podrían impactar nuestras evaluaciones sobre la equidad del algoritmo.

Al entender cuán sensibles son las medidas de rendimiento a cambios en las probabilidades estimadas, los profesionales pueden evaluar mejor el posible sesgo en el algoritmo evaluado. Esto se puede hacer a través de modelos estadísticos que ayudan a estimar el sesgo y el rango potencial de sesgo.

#Estudio de Caso: Evaluación de un Algoritmo de Soporte a Decisiones Clínicas

Para ilustrar estos métodos, podemos observar un ejemplo del mundo real relacionado con el tratamiento de la osteoporosis. En este escenario, evaluamos cómo un herramienta de soporte a decisiones clínicas funciona para diferentes grupos raciales y étnicos.

En nuestro análisis, usamos un conjunto de datos grande de pacientes de Medicare para estimar resultados relacionados con la osteoporosis y fracturas. Luego observamos las tasas de falsos positivos y falsos negativos entre diferentes grupos raciales y étnicos según las predicciones realizadas por el algoritmo.

Al incorporar una comprensión de cuán probable es que un miembro de un grupo específico tenga osteoporosis, pudimos estimar el posible sesgo en las estimaciones del algoritmo para diferentes grupos. Esto nos permitió crear una imagen más clara de cómo el algoritmo se desempeña entre poblaciones diversas.

#Importancia de la Precisión en la Información de Proxy

La precisión de los métodos utilizados para estimar probabilidades grupales influye significativamente en la evaluación de la equidad algorítmica. Si las estimaciones de probabilidad no son precisas, las conclusiones pueden no reflejar la realidad. Este problema es particularmente pronunciado para grupos raciales o étnicos más pequeños, donde las inexactitudes pueden tener un impacto mayor.

Cuando los profesionales utilizan métodos como el Geocodificación Mejorada de Apellidos Bayesianos (BISG) para generar estas estimaciones, deben ser conscientes del potencial de error. El BISG puede proporcionar probabilidades razonables para grupos más grandes, pero puede producir estimaciones menos confiables para poblaciones más pequeñas.

#Implicaciones para Políticas y Prácticas

Los métodos descritos en este artículo son esenciales para los políticos y organizaciones de salud que buscan implementar algoritmos para la toma de decisiones. Al usar el enfoque de análisis de sensibilidad propuesto, los tomadores de decisiones pueden comprender mejor las posibles disparidades en el rendimiento del algoritmo.

En términos prácticos, estos métodos permiten a las organizaciones tener en cuenta las incertidumbres en las probabilidades de pertenencia a grupos, lo cual es crucial para evaluar cuán equitativo se desempeña un algoritmo entre diferentes grupos.

En la práctica, los hallazgos de tales análisis pueden informar cómo se desarrollan, evalúan e implementan las herramientas de soporte a decisiones clínicas. Los responsables de políticas pueden utilizar estas percepciones para asegurarse de que los algoritmos no contribuyan involuntariamente a las disparidades en la atención médica.

#Próximos Pasos

A medida que avancemos en el aprovechamiento del aprendizaje automático y herramientas algorítmicas en la atención médica, es fundamental continuar investigando la intersección de la tecnología, la ética de datos y la equidad en salud. Estudios futuros pueden ampliar las metodologías discutidas aquí y explorar situaciones más complejas, como cuando múltiples factores están influyendo en el rendimiento del algoritmo.

Además, capacitar a los profesionales de la salud sobre la importancia de entender e interpretar los resultados algorítmicos puede mejorar significativamente la equidad en la entrega de atención médica. Al enfatizar la necesidad de una recolección e interpretación de datos precisos, podemos trabajar hacia asegurar que estas herramientas sirvan a todos los miembros de la comunidad de manera justa.

#Conclusión

La integración de algoritmos en la toma de decisiones de atención médica ofrece una gran promesa, pero también presenta desafíos, particularmente en lo que respecta a la equidad. Los métodos discutidos en este artículo proporcionan herramientas esenciales para evaluar y mejorar la equidad algorítmica, enfatizando la importancia de la precisión en las estimaciones de probabilidad grupal.

A medida que los proveedores de atención médica adopten cada vez más estas tecnologías, la atención continua a los problemas de equidad será crucial. Al usar los métodos descritos aquí, los tomadores de decisiones pueden trabajar para mejorar la calidad y la accesibilidad de la atención para todos los pacientes, sin importar su raza o etnicidad.