Construyendo confianza en los vehículos autónomos a través de explicaciones claras

Los vehículos autónomos (VAs) tienen el potencial de cambiar la forma en que nos movemos, prometiendo beneficios como menos accidentes, menos tráfico y menos estrés para los pasajeros. Sin embargo, mucha gente duda en confiar en estos vehículos porque a menudo no entienden cómo los VAs toman decisiones. Esta desconfianza puede limitar el uso de los VAs. Una forma de generar Confianza en los VAs es a través de Explicaciones claras sobre sus acciones. Sin embargo, a veces estas explicaciones pueden ser erróneas o engañosas.

Este estudio analizó cómo los errores en las explicaciones de los VAs, la situación de conducción y las características personales pueden afectar cuán cómodas se sienten las personas al usar VAs. Queríamos ver si los errores en las explicaciones hacían que la gente fuera menos probable que confiara en el vehículo, que quisiera tomar el control por sí misma o que estuviera satisfecha con las explicaciones. También queríamos entender cómo la dificultad de las situaciones de conducción y los riesgos percibidos de esas situaciones influían en los sentimientos de las personas sobre los VAs.

#La importancia de la confianza en los vehículos autónomos

La confianza es crucial cuando se trata de usar tecnología, especialmente en situaciones críticas para la seguridad como la conducción. Muchos estudios han mostrado que las personas son menos propensas a confiar en un VA si no confían en él. Esta falta de confianza no es solo un problema para los VAs, sino para muchos sistemas de IA con los que las personas interactúan a diario. Si un VA comete un error mientras conduce, puede llevar rápidamente a una pérdida de confianza y a una falta de voluntad para depender de él.

La transparencia del sistema a menudo se sugiere como una solución para generar confianza. La transparencia significa proporcionar a los usuarios información clara sobre cómo funciona el sistema. En el contexto de los VAs, esto podría significar explicar qué está haciendo el vehículo y por qué. Sin embargo, las explicaciones pueden contener errores, lo que puede afectar negativamente la confianza.

Investigaciones anteriores han mostrado que los errores en la conducción pueden reducir la confianza y la disposición a usar un VA. Lo que se entiende menos es cómo las explicaciones erróneas afectan la confianza y la dependencia. En áreas particularmente sensibles como los VAs, conocer el impacto de los errores es esencial para su uso seguro y ético.

También debemos recordar que las interacciones con los VAs ocurren en situaciones de conducción de la vida real. Cada situación de conducción puede diferir mucho, lo que significa que el contexto en el que ocurren los errores importa. Factores como cuán difícil es la situación de conducción y cuánta posible lesión conlleva pueden moldear cómo responden los usuarios a los errores en las explicaciones.

#Características personales e interacción del usuario

Otro aspecto importante es cómo las características personales pueden afectar la interacción de una persona con los VAs. La gente tiene diferentes antecedentes, experiencias y niveles de confianza respecto a la tecnología. Por ejemplo, alguien con más experiencia usando VAs o un mayor nivel de confianza inicial puede reaccionar de manera diferente a alguien que está menos familiarizado con estos vehículos. El conocimiento previo y características personales como la confianza y la experiencia pueden influir en cómo los usuarios responden a los errores en las explicaciones.

En este estudio, buscamos investigar cómo estos factores influyen realizando un experimento con 232 participantes en escenarios de conducción simulados. Probamos cómo los errores en las explicaciones de los VAs influían en la Comodidad, la preferencia de control, la satisfacción con las explicaciones y la confianza en la capacidad de conducción del vehículo.

#Diseño del estudio y metodología

Este estudio se llevó a cabo utilizando un entorno de conducción simulado. Los participantes vieron videos de VAs navegando una variedad de situaciones, desde tareas de conducción simples hasta complejas. Después de cada video, calificaron su comodidad al confiar en el VA, su preferencia por tomar el control, su satisfacción con la explicación dada y su confianza en la capacidad de conducción del VA.

Diseñamos tres tipos de explicaciones:

1. Explicación exacta: El VA describía con precisión lo que estaba haciendo y por qué.
2. Condición de bajo error: El VA describía correctamente lo que estaba haciendo pero daba una razón incorrecta para esa acción.
3. Condición de alto error: El VA describía incorrectamente tanto lo que estaba haciendo como por qué.

Con esta configuración, pudimos aislar el impacto de diferentes tipos de errores en las explicaciones sobre las respuestas de los participantes.

Además, los participantes calificaron el contexto de cada escenario de conducción, incluyendo el daño percibido y la dificultad de conducción, después de ver las explicaciones exactas. También recopilamos información sobre su confianza en los VAs y su experiencia con la tecnología antes de profundizar en las tareas principales.

#Hallazgos

#Impacto de los errores en las explicaciones

En general, encontramos que los errores en las explicaciones tuvieron un efecto negativo en todos los resultados. Los participantes calificaron su comodidad, dependencia, satisfacción y confianza más bajo a medida que aumentaba el nivel de error en las explicaciones. Esto fue cierto incluso cuando el rendimiento real de conducción del VA se mantuvo igual en todos los escenarios.

Curiosamente, los participantes también calificaron más bajo la capacidad de conducción del VA cuando las explicaciones contenían errores. Esto sugiere que las percepciones de las personas sobre qué tan bien conduce un VA pueden ser influenciadas por su opinión sobre la calidad de sus explicaciones.

La gravedad de los errores y el potencial de daño también desempeñaron un papel importante. Cuando los errores se consideraron graves, o cuando el contexto de conducción involucraba mayores riesgos, los efectos negativos sobre la comodidad y la confianza se amplificaron.

#El contexto de conducción importa

El contexto de conducción emergió como un factor clave que influye en cómo la gente se sentía acerca de los VAs. Un mayor daño percibido en una situación se correlacionó con calificaciones más bajas de comodidad, dependencia y confianza. En cambio, una mayor dificultad percibida parecía correlacionarse con calificaciones de dependencia más altas. Esto indica que la gente puede estar más dispuesta a confiar en un VA en situaciones difíciles donde se sienten menos seguros sobre sus propias habilidades de conducción.

Aunque los errores en las explicaciones impactaron cómo se sentían los participantes sobre el VA, el contexto como el daño y la dificultad moderaron estos efectos. Por ejemplo, un aumento en la dificultad en un escenario de conducción llevó a niveles de comodidad más bajos de manera más significativa en la condición de bajo error que en la condición exacta. Esto implica que los factores contextuales pueden moldear cuánto impacto puede tener un error en la confianza y dependencia de un participante.

#El papel de la confianza personal y la experiencia

Los participantes con mayor confianza inicial y experiencia tendían a calificar el VA más positivamente en todos los resultados. Estas características desempeñaron un papel esencial en cómo diferentes individuos respondieron a los errores. Aquellos con mayor familiaridad con los VAs eran más propensos a confiar en el vehículo y sus explicaciones, destacando la importancia del trasfondo del usuario al diseñar sistemas de VAs.

Curiosamente, no encontramos evidencia de que simplemente experimentar errores impactara significativamente los niveles generales de confianza. Sin embargo, los participantes informaron que se sentían menos seguros de entender por qué los VAs toman decisiones después de haber estado expuestos a errores durante el estudio. Esto sugiere que, aunque la confianza inicial puede no cambiar drásticamente por la exposición, la forma en que los individuos entienden la toma de decisiones de los VAs puede verse afectada.

#Recomendaciones para el diseño de VAs

A partir de nuestro estudio, surgen varias recomendaciones para mejorar el diseño de las explicaciones de los VAs:

1. Priorizar información clara sobre el 'qué': Parece esencial centrarse en proporcionar descripciones claras y precisas de lo que el VA está haciendo. Esta información puede tener más peso en la mente de los usuarios en comparación con las explicaciones de por qué se está llevando a cabo una acción.

2. Conciencia contextual: Diseñar explicaciones que tengan en cuenta el contexto de la situación de conducción es crucial. Si el sistema puede adaptar las explicaciones para coincidir con la dificultad y el riesgo percibido de la situación, puede fomentar una mayor confianza.

3. Diseño centrado en el usuario: Tener en cuenta las diferencias individuales en confianza y experiencia puede llevar a una comunicación más efectiva de los VAs. Personalizar las explicaciones para satisfacer las necesidades y antecedentes del usuario puede mejorar la experiencia del usuario.

4. Pruebas previas al despliegue: Antes de desplegar los VAs, es importante probar la precisión de sus explicaciones. Si un VA no puede explicar con fiabilidad sus acciones, puede ser mejor evitar proporcionar explicaciones hasta que se logre una buena calidad.

5. Mecanismos de retroalimentación: Incorporar formas para que los usuarios brinden retroalimentación sobre las operaciones del VA. Esto podría crear un camino para que los usuarios expresen sus preocupaciones y experiencias, llevando a mejoras en el sistema.

#Conclusión

El estudio resalta la necesidad crítica de explicaciones precisas y conscientes del contexto en los vehículos autónomos. Nuestros hallazgos muestran que los errores en las explicaciones pueden influir negativamente en cómo las personas se sienten sobre confiar y depender de los VAs, incluso si las habilidades de conducción del vehículo se mantienen consistentes.

Entender las implicaciones más amplias de los errores en las explicaciones es esencial para el futuro del diseño, investigación y despliegue de VAs. Al enfatizar la importancia de explicaciones de calidad y considerar factores contextuales, los diseñadores pueden trabajar para crear interacciones más confiables y satisfactorias entre humanos y VAs.

En un mundo donde los VAs son cada vez más comunes, asegurar que estos vehículos puedan comunicarse eficazmente con los usuarios será crucial para su aceptación y seguridad general.