Reduciendo la aversión a los algoritmos a través del control del usuario

La gente a menudo duda en usar algoritmos, incluso cuando funcionan mejor que los humanos. Esta reticencia se conoce como aversión a los algoritmos. Estudios anteriores sugieren que permitir que las personas tengan control sobre los resultados que reciben de estos algoritmos puede ayudar a reducir esta aversión. Al dar a los usuarios la capacidad de cambiar los resultados de un algoritmo, pueden sentirse más cómodos usándolo. Sin embargo, no está claro si permitir que los usuarios controlen el proceso de cómo se crean los algoritmos-como elegir los datos o el tipo de modelo-también puede ayudar.

En este estudio, investigamos si dar a las personas control sobre el proceso de creación de algoritmos puede reducir su aversión a usarlos. Comparamos dos tipos de control: Control de Resultados, donde los usuarios pueden cambiar las predicciones hechas por el algoritmo, y control de proceso, donde los usuarios pueden elegir qué datos y algoritmos se usan para hacer esas predicciones. Queremos ver si estos tipos de control ayudan a que la gente se sienta más cómoda confiando en los algoritmos.

#Aversión a los Algoritmos

La aversión a los algoritmos es la tendencia de las personas a desconfiar o evitar usar algoritmos, incluso cuando estos pueden producir resultados más precisos que el juicio humano. Esta aversión puede surgir de varios factores, incluyendo el miedo a perder control sobre la toma de decisiones y la creencia de que los algoritmos no pueden tener en cuenta las sutilezas de la experiencia humana. Muchas personas prefieren tomar decisiones basadas en su propio juicio, incluso cuando el algoritmo ha demostrado ser más eficaz.

Los investigadores han demostrado que la aversión a los algoritmos puede disminuir cuando los usuarios sienten que tienen voz en el proceso de toma de decisiones. Permitir que los usuarios ajusten el resultado de las predicciones puede llevar a una mayor confianza y disposición para usar algoritmos. Aquí es donde entra en juego el concepto de control de resultados.

#Control de Resultados

El control de resultados implica dar a los usuarios la capacidad de modificar las predicciones hechas por un algoritmo. Esto se puede hacer de varias maneras, como permitir que los usuarios ajusten el resultado dentro de un rango específico o permitirles hacer cambios sin restricciones. Cuando los usuarios sienten que pueden influir en la decisión final, es más probable que confíen y usen el algoritmo.

La investigación ha demostrado que cuando los usuarios tienen la capacidad de ajustar los resultados, no solo muestran una mayor probabilidad de optar por usar el algoritmo, sino que también tienden a hacer predicciones más precisas. Permitir que los usuarios interactúen con el algoritmo de esta manera puede mejorar su experiencia y satisfacción general con el proceso.

#Control de Proceso

El control de proceso implica dar a los usuarios la opción de influir en cómo funciona el algoritmo al seleccionar factores de entrada y los propios algoritmos. Esto significa que los usuarios pueden determinar qué puntos de datos se utilizan para entrenar el algoritmo y qué tipo de modelo se aplica. Esta forma de control ha sido menos estudiada, pero puede ser valiosa para mitigar la aversión a los algoritmos.

La idea es que si los usuarios pueden elegir cómo se construye el algoritmo, pueden sentir más propiedad sobre el proceso, lo que lleva a una mayor confianza. Sin embargo, sigue sin estar claro si el control de proceso tiene los mismos efectos positivos que el control de resultados.

#Objetivos de la Investigación

Este estudio tiene como objetivo investigar si el control de proceso puede reducir efectivamente la aversión a los algoritmos. Tenemos las siguientes preguntas de investigación:

1. ¿Proporcionar control de proceso reduce la aversión a los algoritmos?
2. ¿Cómo se compara el efecto del control de proceso con el control de resultados?
3. ¿Combinando ambos controles, el de proceso y el de resultados, se obtienen beneficios adicionales para reducir la aversión a los algoritmos?

Al examinar estas preguntas, esperamos aclarar cómo los diferentes tipos de control influyen en la disposición de los usuarios a confiar y usar algoritmos.

#Metodología

Para explorar nuestras preguntas de investigación, realizamos una serie de estudios con participantes reclutados de plataformas de crowdsourcing en línea. Los participantes tenían la tarea de predecir puntajes de exámenes de lectura para estudiantes basándose en varios factores. Probamos diferentes condiciones donde los participantes tenían control de resultados, control de proceso, o ambos.

#Participantes

Reclutamos participantes de plataformas como Amazon Mechanical Turk y Prolific. Para asegurar la calidad, establecimos criterios específicos para la participación, como demografía y experiencia previa con tareas similares. Los participantes fueron asignados al azar a diferentes condiciones experimentales.

#Diseño del Estudio

El estudio constó de tres componentes principales:

1. Replicación del Control de Resultados: Reevaluamos los efectos del control de resultados permitiendo a los participantes modificar las predicciones generadas por un algoritmo.
2. Prueba del Control de Proceso: Evaluamos si proporcionar a los participantes control sobre factores de entrada y la elección de algoritmos influía en su uso del modelo.
3. Combinación de Controles: Exploramos los efectos de proporcionar tanto control de resultados como control de proceso simultáneamente para medir beneficios adicionales en la reducción de la aversión a los algoritmos.

#Resumen de Tareas

Se pidió a los participantes que predijeran puntajes de exámenes de lectura, utilizando datos de estudiantes reales. Tenían acceso a varios factores que podían influir en sus predicciones, como la demografía de los estudiantes y características de los padres. Dependiendo de la condición a la que fueron asignados, tenían control limitado o extenso sobre los factores de entrada y resultados del algoritmo.

#Recolección de Datos

Las respuestas de los participantes se recopilaron a través de encuestas que evaluaron su disposición a usar los modelos, la precisión de sus predicciones y sus percepciones de equidad y transparencia. También se preguntó a los participantes sobre su demografía y experiencias previas con tareas relacionadas con algoritmos.

#Resultados

#Hallazgos del Control de Resultados

En la primera fase de nuestro estudio, confirmamos hallazgos previos respecto al control de resultados. Los participantes que pudieron ajustar las predicciones del modelo mostraron un aumento significativo en su disposición a usar el modelo.

• Tasas de Uso: Un alto porcentaje de participantes en condiciones de control de resultados optó por usar el modelo en comparación con aquellos sin este control.
• Precisión: Los participantes que pudieron modificar los resultados también demostraron menos errores en sus predicciones, indicando una mejor comprensión de las predicciones del modelo.

#Hallazgos del Control de Proceso

Al avanzar hacia el control de proceso, descubrimos que no todos los aspectos de personalización tuvieron el mismo efecto positivo:

• Elección de Algoritmos de Entrenamiento: Los participantes que tuvieron la opción de elegir el algoritmo de entrenamiento mostraron un aumento notable en su probabilidad de usar el modelo.
• Selección de Factores de Entrada: Sin embargo, la capacidad de los participantes para cambiar solo los factores de entrada no resultó en un aumento significativo en el uso del modelo o en la precisión.

#Hallazgos del Control Combinado

Al evaluar a los participantes que tuvieron ambos tipos de control, los resultados fueron intrigantes:

• Sin Beneficio Adicional: Proporcionar tanto control de proceso como control de resultados no dio lugar a resultados significativamente mejores en comparación con proporcionar solo un tipo de control. Los usuarios que tuvieron control de resultados o control de proceso solo mostraron niveles similares de uso y precisión.
• Percepción de Equidad: Los participantes calificaron consistentemente sus percepciones de equidad de manera similar en todas las condiciones, sin importar el control que tuvieran.

#Equidad y Transparencia

A lo largo del estudio, exploramos cómo los participantes percibían los algoritmos en términos de equidad y transparencia. Curiosamente, aunque los usuarios expresaron ideas de equidad basadas en el contexto, el tipo de control proporcionado no cambió significativamente sus percepciones.

• Equidad Contextual: Los participantes calificaron la equidad de usar el modelo de manera diferente según contextos específicos, destacando la importancia de encuadrar los escenarios en las evaluaciones de equidad.

#Discusión

Los hallazgos de este estudio ofrecen valiosos conocimientos sobre cómo los usuarios interactúan con los algoritmos. Mientras que el control de resultados claramente juega un papel significativo en la reducción de la aversión, los efectos del control de proceso fueron más matizados. Seleccionar algoritmos de entrenamiento produjo resultados positivos, pero permitir cambios en los factores de entrada no impulsó el mismo compromiso.

#Implicaciones para el Diseño

Desde un punto de vista práctico, nuestro estudio sugiere que, al diseñar sistemas algorítmicos, es crucial considerar cuánto control tienen los usuarios. Involucrar a los usuarios finales en el proceso puede mitigar la aversión, pero la naturaleza de esa participación necesita ser considerada cuidadosamente. Los diseñadores deberían priorizar permitir a los usuarios elegir algoritmos, reconociendo que cambiar las entradas puede no tener el efecto deseado sobre la confianza o el uso.

#Desafíos y Limitaciones

A pesar de nuestros hallazgos, reconocemos varios desafíos que pueden afectar la generalizabilidad de nuestros resultados. Las diferencias en los factores demográficos entre los participantes en diferentes plataformas y los posibles sesgos en las muestras de trabajadores de crowdsourcing pueden influir en los resultados. Las opciones de diseño disponibles para los usuarios también necesitan ser más significativas para ver cambios en el comportamiento significativos.

#Direcciones para la Investigación Futura

La investigación futura debería profundizar en los mecanismos psicológicos detrás de nuestros hallazgos. Entender cómo los diferentes tipos de control moldean las percepciones de los usuarios proporcionará más claridad sobre el diseño de sistemas algorítmicos efectivos. Además, explorar el impacto de permitir a los usuarios definir resultados objetivos podría revelar nuevas dimensiones de la aversión a los algoritmos.

#Conclusión

Nuestro estudio contribuye a una mejor comprensión de la aversión a los algoritmos y la dinámica del control del usuario. Si bien permitir a los usuarios ajustar los resultados del algoritmo es beneficioso, incorporar un control de proceso significativo, particularmente a través de la selección de algoritmos, parece mejorar la confianza y el compromiso. Sin embargo, la combinación de ambos controles no garantiza una mejor aceptación y resalta la complejidad de las interacciones de los usuarios con los algoritmos. El trabajo futuro debería seguir investigando estas relaciones para diseñar mejores sistemas que los usuarios estén más dispuestos a aceptar y utilizar.