El impacto de la mala reconocimiento de voz en el aprendizaje con agentes enseñables
Un estudio sobre cómo los errores de habla afectan el aprendizaje con agentes enseñables.
― 7 minilectura
Tabla de contenidos
Los agentes enseñables son herramientas que pueden ayudar a los estudiantes a aprender dejándolos enseñar a un robot o un personaje virtual. Este método puede ser más efectivo que el tutoría tradicional. Sin embargo, cuando los estudiantes hablan con estos agentes usando voz, la tecnología que convierte su habla en texto puede cometer errores. Estos errores, conocidos como mala interpretación, pueden cambiar cómo fluye la conversación. Este estudio investiga cómo estos errores de mala interpretación afectan el aprendizaje de los estudiantes y su relación con el agente.
Antecedentes
Cuando los estudiantes explican cosas a los agentes enseñables, a menudo lo hacen mejor que cuando simplemente están siendo tutorados. La interacción puede ocurrir a través de escritura o habla, pero hablar generalmente es más rápido y fácil para los estudiantes. Sin embargo, los sistemas basados en voz pueden malinterpretar lo que los estudiantes dicen. Esta mala interpretación podría cambiar cómo va la conversación, lo que podría impactar lo que los estudiantes aprenden y cómo se sienten con el agente.
Investigaciones anteriores han examinado cómo estos errores de voz afectan el aprendizaje de los estudiantes. Algunos estudios encontraron que la cantidad de mala interpretación no se relaciona con qué tan bien aprenden los estudiantes, pero puede afectar su satisfacción con el sistema que están usando. Otro trabajo mostró que los errores en diferentes etapas de la conversación pueden no cambiar siempre las respuestas del sistema. Este estudio actual se centra en la mala interpretación que afecta directamente la salida final del agente enseñable.
Tipos de Mala Interpretación
La mala interpretación puede tomar diferentes formas. El estudio las clasifica en tres tipos:
- Prevención: Esto ocurre cuando un estudiante no puede avanzar al siguiente paso porque el agente malentendió su entrada.
- Diferente: Esto pasa cuando el agente responde de manera diferente a lo esperado, sugiriendo una solución alternativa.
- Procedido: Esto es cuando el agente inesperadamente pasa al siguiente paso debido a la mala interpretación.
Entender estas categorías ayuda a analizar cómo la mala interpretación afecta las interacciones de los estudiantes y sus resultados de aprendizaje.
Diseño del Estudio
En este estudio, 40 estudiantes de pregrado participaron en un experimento donde enseñaron a un robot llamado Emma cómo resolver problemas de proporciones a través de diálogo hablado. Los estudiantes trabajaron solos o en parejas e interactuaron con Emma durante aproximadamente 30 minutos. Tenían que presionar un botón en una aplicación web para comunicarse con ella. Después de la sesión, los estudiantes realizaron exámenes para evaluar su aprendizaje y qué tan bien se conectaron con Emma.
El diseño de la investigación fue cuasi-experimental, lo que significa que buscaba ver efectos reales en un entorno controlado. Se les dio a los estudiantes una prueba previa para evaluar su conocimiento antes de enseñar a Emma y una prueba posterior después de la sesión. También completaron una encuesta sobre su relación con el robot.
Medición de la Mala Interpretación en el Diálogo
Para evaluar cómo la mala interpretación afectó el flujo de la conversación, los investigadores compararon las entradas habladas reales de los estudiantes con lo que el agente entendió. Transcribieron las expresiones de los estudiantes y las ingresaron en el sistema de diálogo para ver cómo Emma normalmente respondería a entradas correctas. Al analizar estas interacciones, midieron la proporción de turnos en los que la respuesta del agente difería de lo que debería haber sido.
Esta comparación ayudó a determinar cuán a menudo ocurrió la mala interpretación y su impacto en la experiencia de aprendizaje general, así como en la relación con el agente.
Resultados
El análisis mostró que no había un vínculo significativo entre la mala interpretación en el diálogo y la relación que los estudiantes sentían con Emma o sus ganancias de aprendizaje. Este resultado sugiere que los errores cometidos por el sistema de reconocimiento de voz no afectaron cuánto aprendieron los estudiantes ni cómo se sintieron acerca del robot.
Entre los tres tipos de mala interpretación, el tipo "Diferente" fue el más común. Sin embargo, ninguno de estos tipos mostró una fuerte correlación con los resultados de aprendizaje o la relación de los estudiantes. Hubo una ligera correlación negativa entre la mala interpretación "Prevención" y la relación, sugiriendo que cuando los estudiantes no podían avanzar en la conversación, podría haber afectado algo su conexión con el agente.
Discusión
Estos hallazgos indican que la mala interpretación por parte de los agentes enseñables no impacta significativamente el aprendizaje ni la percepción del estudiante sobre el agente. La investigación sugiere que en lugar de centrarse en corregir cada malentendido, los agentes podrían beneficiarse de pasar al siguiente paso como si las entradas de los estudiantes fueran razonables.
Este enfoque puede sonar raro porque podría significar que los estudiantes pierden oportunidades para corregir sus Malentendidos. Sin embargo, adquirir exposición a respuestas correctas y problemas adicionales podría superar este problema, ya que las conexiones entre el aprendizaje y las respuestas del agente no se vieron significativamente afectadas por la mala interpretación.
Esta estrategia también puede ayudar a hacer la experiencia de aprendizaje más inclusiva, ya que puede reducir malentendidos que pueden surgir de diferentes acentos y patrones de habla.
Limitaciones
El estudio tuvo algunas limitaciones. Muchos estudiantes obtuvieron altas calificaciones en sus pruebas previas, lo que disminuyó la capacidad de medir con precisión las ganancias de aprendizaje. La tecnología utilizada para el reconocimiento de voz no era de las mejores disponibles, lo que podría haber afectado los resultados.
Además, el número reducido de participantes limitó la capacidad de analizar diversos factores en detalle, como demografía o diferentes condiciones experimentales. Estas limitaciones significaron que los investigadores no pudieron explorar completamente cómo observar la mala interpretación de un compañero pudo haber influido en el aprendizaje.
Conclusión
Esta investigación introdujo nuevas formas de medir la mala interpretación en el diálogo y cómo estos errores impactan las interacciones entre los estudiantes y los agentes enseñables. El estudio concluyó que estos problemas de mala interpretación no afectan significativamente el aprendizaje de los estudiantes ni su relación con el agente. Esto significa que desarrollar sistemas complejos para reducir la mala interpretación puede no ser necesario para los agentes enseñables.
Futuros trabajos pueden investigar más a fondo cómo se aplican estos hallazgos a diferentes entornos de aprendizaje y ver cómo adoptar una política que permita a los agentes proceder puede influir en la relación, el aprendizaje y el compromiso.
Agradecimientos
Los investigadores apreciaron los comentarios de los revisores y el apoyo que recibieron de varias fundaciones y la universidad involucrada en este estudio.
Título: Impact of Experiencing Misrecognition by Teachable Agents on Learning and Rapport
Resumen: While speech-enabled teachable agents have some advantages over typing-based ones, they are vulnerable to errors stemming from misrecognition by automatic speech recognition (ASR). These errors may propagate, resulting in unexpected changes in the flow of conversation. We analyzed how such changes are linked with learning gains and learners' rapport with the agents. Our results show they are not related to learning gains or rapport, regardless of the types of responses the agents should have returned given the correct input from learners without ASR errors. We also discuss the implications for optimal error-recovery policies for teachable agents that can be drawn from these findings.
Autores: Yuya Asano, Diane Litman, Mingzhi Yu, Nikki Lobczowski, Timothy Nokes-Malach, Adriana Kovashka, Erin Walker
Última actualización: 2023-06-11 00:00:00
Idioma: English
Fuente URL: https://arxiv.org/abs/2306.07302
Fuente PDF: https://arxiv.org/pdf/2306.07302
Licencia: https://creativecommons.org/licenses/by/4.0/
Cambios: Este resumen se ha elaborado con la ayuda de AI y puede contener imprecisiones. Para obtener información precisa, consulte los documentos originales enlazados aquí.
Gracias a arxiv por el uso de su interoperabilidad de acceso abierto.