Abordando el sesgo en el aprendizaje automático para una tecnología más justa

El mundo de la computación móvil, wearable y cotidiana está cambiando con la llegada del machine learning. Ahora, los dispositivos pueden ayudar a detectar problemas de salud, predecir problemas cardíacos y mejorar nuestra forma de pensar. Pero, los Algoritmos que hacen funcionar estos dispositivos pueden tener sesgos, especialmente en asuntos delicados como género y raza. Esto puede llevar a resultados injustos. Los investigadores en interacción humano-computadora (HCI) y ética de la IA están empezando a investigar cómo compartir información sobre los datos utilizados para entrenar estas máquinas para descubrir y abordar estos sesgos. Este artículo busca examinar qué tan bien la comunidad que estudia estas tecnologías ha adoptado prácticas de reporte para promover la equidad y señalar áreas que necesitan mejoras.

#Estado Actual de la Equidad en el Machine Learning

Aunque el machine learning ha permitido avances impresionantes en la salud y el monitoreo personal, también es importante reconocer que los algoritmos no siempre están libres de sesgos. El sesgo es un tema crucial, ya que puede tener efectos dañinos, especialmente para grupos marginados. Ha habido ocasiones en que los modelos de machine learning mostraron menor precisión para ciertos grupos demográficos. Por ejemplo, algunos algoritmos diseñados para detectar condiciones de la piel funcionaron mal con personas de piel más oscura.

A pesar de estas disparidades, gran parte de la investigación en la comunidad de computación ubicua se ha centrado principalmente en la precisión, a menudo descuidando la equidad de estos algoritmos. Este documento revela que muy pocos estudios abordan la equidad de manera activa, ya que la mayoría de los investigadores se preocupan más por mejorar el rendimiento de sus modelos.

#Enfoque de Investigación

Realizamos una revisión de estudios publicados en una revista destacada dentro del campo UbiComp en los últimos cinco años. El objetivo era identificar cuántos artículos discuten la equidad en su trabajo y evaluar el estado de las prácticas de equidad en esta comunidad. Revisamos numerosas publicaciones para rastrear cómo se define la equidad y si los investigadores están haciendo los esfuerzos necesarios para garantizar que sus algoritmos sean justos.

Al centrarnos en las publicaciones de esta revista específica, buscamos obtener información sobre tendencias emergentes y métodos relacionados con la equidad en aplicaciones de machine learning relevantes para la computación ubicua. En total, revisamos 523 artículos, de los cuales solo 49 discutieron la equidad de alguna manera.

#Hallazgos Clave

#Enfoque Limitado en la Equidad

Entre los artículos que revisamos, fue alarmante encontrar que solo un pequeño 5% reportó alguna evaluación de equidad. La mayoría de los artículos enfatizaban la precisión o las tasas de error en su lugar. Además, incluso dentro de los pocos artículos que consideraron la equidad, muchos solo incorporaron mecanismos menores para abordar posibles sesgos.

#Falta de Conjuntos de datos Diversos

Una gran preocupación es la falta de diversidad en los conjuntos de datos utilizados para entrenar y probar algoritmos. Muchos estudios dependen de conjuntos de datos que no reflejan la diversidad demográfica de la población en general. Esto puede llevar a modelos que funcionan bien para algunos grupos, pero fallan para otros. Sin un conjunto variado de datos, los sesgos presentes en la fase de entrenamiento pueden trasladarse fácilmente al rendimiento del algoritmo en situaciones del mundo real.

#Prácticas de Reporte

También se observó que la mayoría de los estudios se centraron en Métricas de Rendimiento en lugar de métricas de equidad. Aunque las métricas de rendimiento son esenciales, depender únicamente de ellas puede oscurecer los sesgos subyacentes y evitar que los investigadores obtengan una visión completa de cómo funcionan sus modelos en diferentes demografías.

#Historia de Atributos Sensibles

Los atributos sensibles, como la edad, género, raza y otros factores de identidad, son críticos para entender la equidad en los modelos de machine learning. Sorprendentemente, nuestra revisión encontró que muchos artículos no reportaron adecuadamente sobre estos atributos sensibles. Si bien la edad y el género a menudo se mencionaban, otros atributos como raza, idioma y estado socioeconómico eran a menudo pasados por alto.

#Recomendaciones para Mejorar

#Enfatizar la Equidad desde el Comienzo

Para los investigadores y desarrolladores en la comunidad UbiComp, es esencial hacer de la equidad una prioridad desde el principio de cualquier proyecto. Esto significa considerar cómo se pueden diseñar algoritmos justos para minimizar daños potenciales a grupos demográficos específicos. Comprender los tipos de sesgos que pueden surgir es crucial para crear soluciones tecnológicas equitativas.

#Evaluar la Diversidad de Datos

Al recopilar datos, los investigadores deberían buscar una muestra más representativa que incluya grupos demográficos diversos. Esto implica tanto mejores prácticas de reclutamiento como asegurar que los métodos de recolección de datos sean inclusivos. Además, los investigadores deberían validar su conjunto de datos verificando posibles sesgos u omisiones.

#Implementar Métricas de Equidad

Introducir métricas de equidad junto con las métricas de rendimiento tradicionales puede ayudar a los investigadores a entender mejor cómo funcionan sus algoritmos en varios grupos. Al enfatizar la equidad durante las evaluaciones, los investigadores pueden detectar sesgos que de otro modo pasarían desapercibidos.

#Monitoreo y Ajuste Continuos

Una vez que los modelos están implementados, el monitoreo continuo es esencial para asegurar que mantengan la equidad y precisión a lo largo del tiempo. Esto requiere entender cómo los cambios demográficos pueden impactar el rendimiento del modelo y la necesidad de ajustes en consecuencia.

#Conclusión

Mientras que la intersección del machine learning y la computación ubicua ofrece grandes promesas, la importancia de la equidad en estas tecnologías no puede subestimarse. Al prestar atención a los sesgos potenciales y esforzarse por crear soluciones equitativas, los investigadores pueden asegurar que los avances tecnológicos beneficien a todos, no solo a unos pocos elegidos. Solo adoptando un enfoque proactivo hacia la equidad, la comunidad UbiComp puede realmente avanzar hacia un desarrollo tecnológico responsable y ético.

A través de revisiones sistemáticas, mejor recolección de datos y la implementación de métricas de equidad, la comunidad puede trabajar para desarrollar sistemas de machine learning que sean tanto efectivos como justos. Es crucial priorizar prácticas inclusivas y responsabilidad para evitar que los sesgos socaven los beneficios que estas tecnologías proporcionan.