Manteniendo a la IA bajo control: El enfoque del ejercicio de confianza

Los sistemas de IA están ayudando cada vez más a la gente con muchas tareas diferentes. La gente podría llegar a depender demasiado de estos sistemas si confían en sus consejos ciegamente, incluso cuando podrían tomar mejores decisiones por su cuenta.

Para identificar casos de esta sobredependencia, se ha propuesto un método llamado "ejercicio de dependencia". Este ejercicio prueba si una persona puede señalar Errores en los consejos dados por la IA. Este artículo analiza cómo las organizaciones pueden llevar a cabo estos ejercicios de manera efectiva y proporciona un ejemplo de cómo podrían aplicarse en entornos de atención médica. El objetivo es asegurarse de que la gente siga participando en decisiones donde la IA está involucrada.

La IA ahora puede realizar tareas que antes se pensaban únicas de los humanos. Esto ha creado presión para que las organizaciones usen más la IA en procesos de toma de decisiones importantes, lo que podría llevar a crecimiento e innovación. Sin embargo, la forma en que algunos sistemas de IA operan, combinada con la tendencia natural de la gente a confiar en las máquinas, puede llevar a los tomadores de decisiones a seguir el consejo de la IA sin pensar críticamente. Esta confianza ciega puede resultar en errores serios, ya que incluso la IA avanzada puede cometer grandes errores que un humano capacitado no cometería.

Un ejemplo famoso de esto ocurrió en 2018, cuando un auto autónomo de Uber atropelló y mató a un peatón porque el sistema de IA no reconoció a los peatones que cruzaban mal. La policía afirmó que el accidente podría haberse evitado si el conductor humano hubiera prestado más atención en lugar de depender demasiado del juicio de la IA.

De cara al futuro, hay razones financieras, legales y éticas para minimizar errores prevenibles cometidos por la IA. Para hacer esto, los investigadores necesitan encontrar métodos para reconocer cuándo los humanos dependen en exceso de los sistemas de IA en situaciones de la vida real. Se sugiere el ejercicio de dependencia como una forma de abordar este problema.

#¿Qué es un Ejercicio de Dependencia?

En un ejercicio de dependencia, la ayuda del sistema de IA se altera intencionalmente para incluir errores. La persona que toma el ejercicio debe identificar estos errores para aprobar. Si no lo hacen, indica que podrían estar dependiendo demasiado de la IA. Al revisar los resultados de estos ejercicios, las organizaciones pueden determinar si necesitan tomar medidas adicionales para abordar la sobredependencia.

Por ejemplo, en un entorno médico, un doctor podría querer ver si sus estudiantes de medicina dependen demasiado de una herramienta de IA para diagnosticar pacientes. El doctor podría cambiar ligeramente los diagnósticos de la IA añadiendo un error. Se pediría a los estudiantes identificar cualquier error. Si un estudiante capta todos los errores, aprueba; si no, puede necesitar más Entrenamiento para mejorar su capacidad de detectar fallos.

Si bien este método manual es efectivo, no siempre es práctico para grupos más grandes. Por lo tanto, usar tecnología para crear automáticamente errores puede ser más eficiente. Por ejemplo, una IA podría ser programada para dar respuestas incorrectas a propósito, lo que podría probar a los usuarios de manera efectiva.

En resumen, los ejercicios de dependencia son pruebas activas diseñadas para ver si los usuarios pueden determinar cuándo el consejo de la IA es peor que lo que podrían proponer por su cuenta. Los usuarios que encuentran los errores pueden aprobar el ejercicio, mientras que aquellos que no lo hacen son señalados como potencialmente dependientes de la IA.

#Pasos para Realizar Ejercicios de Dependencia

Las organizaciones pueden seguir un proceso paso a paso para implementar ejercicios de dependencia de manera efectiva. Cada paso es crucial en el diseño de ejercicios, evaluación de riesgos y decisión sobre cómo manejar casos de sobredependencia.

1. Establecer Criterios para Dañar la IA: Antes de comenzar un ejercicio de dependencia, las organizaciones deben decidir cómo hacer que la IA sea menos efectiva. Necesitan averiguar qué hace que una respuesta de IA sea buena o mala, según lo que sus clientes necesiten. Por ejemplo, si la precisión es crítica, incluso pequeños errores en las respuestas de la IA deben marcarse como fallos.

2. Realizar Evaluación de Riesgos: Los organizadores deben considerar el equilibrio entre crear ejercicios realistas y gestionar cualquier riesgo. Un ejercicio que se siente real podría proporcionar mejores ideas sobre el comportamiento del usuario, pero también podría conducir a problemas serios si no se controla adecuadamente. Si hay muchos factores impredecibles en un entorno laboral, es mejor centrarse en la seguridad en lugar de en el realismo.

3. Monitorear Daños Colaterales: Después de un ejercicio de dependencia, es esencial verificar si el ejercicio causó algún daño no intencionado. Si los usuarios siguieron los errores de la IA, se debería investigar más sobre los errores. Más allá de esto, los organizadores deben permanecer alerta a cambios en la salud mental de los empleados o en el ambiente laboral causados por los ejercicios.

4. Corregir la Sobredacidad: Una vez que está claro que un usuario depende demasiado de la IA, se pueden implementar estrategias de intervención. Inicialmente, soluciones fáciles como emitir advertencias pueden ayudarles a volverse más cautelosos. Si el problema persiste, puede ser necesario un entrenamiento más completo para reforzar buenas prácticas al utilizar herramientas de IA.

#Aplicación de Ejercicios de Dependencia en Atención Médica

Una área donde los ejercicios de dependencia podrían ser beneficiosos es en entornos médicos. Por ejemplo, los doctores podrían usar la IA para ayudar a redactar respuestas a correos electrónicos de pacientes rápidamente. Debido a la presión del tiempo, los doctores pueden enviar estas respuestas sin una revisión exhaustiva.

En este escenario, un ejercicio de dependencia podría involucrar insertar deliberadamente errores en las sugerencias de correo electrónico de la IA. Los doctores tendrían que revisar en busca de errores antes de enviar los correos. Si no notan los errores, muestra que podrían estar confiando demasiado en las recomendaciones de la IA.

#Implicaciones Más Amplias de los Ejercicios de Dependencia

Estos ejercicios no solo son útiles para la atención médica. También podrían aplicarse en varios sectores, incluyendo despachos de abogados y operaciones militares. El objetivo es reducir el riesgo de sobredependencia en situaciones críticas de toma de decisiones, mientras se siguen beneficiando de sus capacidades.

Los ejercicios de dependencia son nuevos ejercicios que ayudan a las personas a mantener sus habilidades de toma de decisiones al usar IA. Las organizaciones pueden abordar estos ejercicios utilizando la metodología descrita para crear evaluaciones efectivas y respuestas a cualquier dependencia detectada.

#Consideraciones Sociales de los Ejercicios de Dependencia

Si bien el objetivo principal de los ejercicios de dependencia es reducir la sobredependencia en la IA, hay preocupaciones de que podrían introducir nuevos riesgos de seguridad, afectar la salud mental de los empleados o causar que los usuarios confíen menos en la IA. Por lo tanto, es importante que cada organización que implemente tales ejercicios considere estos posibles inconvenientes.

#Pensamientos Finales

Los ejercicios de dependencia podrían ser una herramienta esencial para asegurar que los humanos sigan involucrados activamente en la toma de decisiones al usar sistemas de IA. Al seguir un enfoque estructurado, las organizaciones pueden aprovechar los beneficios de la IA mientras evitan sus posibles trampas. A medida que la IA continúa avanzando y se vuelve más integral en varias industrias, establecer métodos seguros y efectivos para la supervisión humana será crucial para mantener el equilibrio y tomar decisiones acertadas.

Estos pasos pueden llevar a una integración más responsable de la IA, ayudando a evitar trampas y asegurando que la experiencia humana siga estando a la vanguardia de los procesos de toma de decisiones.