Ética y IA: La Perspectiva de un Estudiante

En los últimos años, los modelos de lenguaje grande (LLMs) han generado debates entre educadores sobre cómo estas tecnologías podrían cambiar la forma en que los estudiantes aprenden y lo que necesitan saber para sus futuros trabajos en computación. Estos modelos, que pueden generar texto y mantener conversaciones, también han planteado importantes preguntas Éticas tanto para educadores como para estudiantes.

Este artículo examina una tarea específica que tuvo lugar en un curso de maestría sobre competencias profesionales en computación. El enfoque de esta tarea fue en la ética, un área clave que los estudiantes deben entender en sus carreras. Los grupos de estudiantes analizaron un escenario ficticio sobre un investigador que consideraba si asistir a una conferencia importante. Discutieron cuestiones éticas y usaron un LLM como compañero de discusión para ayudar a guiar sus pensamientos. Los estudiantes documentaron sus experiencias con el LLM y reflexionaron sobre su utilidad.

#Visión General del Curso y la Tarea

En Suecia, los estudiantes que persiguen una maestría en computación deben aprender varias competencias profesionales, incluyendo la ética relacionada con la tecnología y la investigación. El curso discutido en este artículo combina a estudiantes de diferentes programas de computación, permitiéndoles explorar temas como escritura académica, ética en computación y oportunidades equitativas.

Una de las tareas involucró un estudio de caso donde grupos de estudiantes tuvieron que evaluar un dilema ético enfrentado por un académico ficticio llamado Andreas. Andreas recibió la aceptación para presentar su artículo en una conferencia en Hawái. Sin embargo, se dio cuenta de las preocupaciones sobre el impacto ambiental de viajar a tales eventos y si los beneficios de asistir superaban las desventajas.

En esta tarea, se pidió a los estudiantes que hicieran tres cosas:

1. Discutir el caso en clase.
2. Trabajar con un LLM de su elección para analizar la situación y recopilar ideas.
3. Reflexionar sobre sus discusiones e interacciones con el LLM.

La idea era ayudar a los estudiantes a pensar críticamente sobre decisiones éticas en su campo mientras exploraban cómo la tecnología puede ayudar en su aprendizaje.

#El Papel de los Modelos de Lenguaje Grande

Con el auge de LLMs como ChatGPT, muchos educadores creen que es importante utilizar estas herramientas en el proceso de aprendizaje en lugar de ignorarlas. La investigación ha mostrado que los LLMs pueden ayudar en varias tareas, como generar contenido, analizar el trabajo de los estudiantes e incluso crear materiales educativos.

En el contexto de este curso, el LLM se utilizó para apoyar a los estudiantes en la comprensión de marcos éticos y facilitar discusiones sobre posibles acciones en dilemas éticos. El enfoque estuvo en cómo los estudiantes interactuaron con el LLM en lugar de centrarse únicamente en su capacidad para generar código o proporcionar retroalimentación.

#Diseño del Curso

El curso introductorio para estudiantes de maestría en computación en una universidad sueca abarca una variedad de temas relevantes. El curso tiene como objetivo desarrollar las habilidades profesionales necesarias para sus posibles carreras. Para lograr esto, el plan de estudios incluye educación ética, apoyo para la escritura académica y ejercicios prácticos.

A lo largo del curso, los estudiantes participan en diversas actividades que evalúan su comprensión de estos temas. La tarea se centró en la ética, donde se requería que los estudiantes demostraran su capacidad para analizar cuestiones éticas y aplicar su aprendizaje.

#Marco Ético

El marco utilizado para enseñar ética en este curso se basa en cuatro componentes principales:

1. Conciencia: Reconocer que existe un problema ético.
2. Responsabilidad: Entender quién es el dueño del problema y considerar las implicaciones.
3. Pensamiento Crítico: Explorar teorías éticas y evaluar la situación desde diferentes puntos de vista.
4. Acción: Decidir un curso de acción basado en el análisis.

Estos componentes trabajan juntos, con cada uno construyendo sobre el anterior. Los estudiantes aprendieron sobre la importancia de reconocer dilemas, asumir la responsabilidad de sus decisiones, pensar críticamente y, en última instancia, elegir un camino a seguir.

#Tarea en Grupo

El curso incluyó dos seminarios centrados en la ética. En el primer seminario, los estudiantes discutieron los componentes iniciales del proceso ético. Usaron un caso ficticio relacionado con una situación real para impulsar estas discusiones. En el segundo seminario, los estudiantes aprendieron sobre pensamiento crítico y acción y regresaron al mismo caso para profundizar su comprensión.

Para la tarea grupal, se instruyó a los estudiantes a escribir un informe resumiendo sus discusiones basadas en sus notas. Luego trabajaron con un LLM de su elección para analizar el caso más a fondo, informando sobre las ideas obtenidas del LLM y reflexionando sobre sus contribuciones tanto a su análisis como a la calidad de su escritura.

#El Caso de Andreas

El caso ficticio presentado involucraba a Andreas, un nuevo académico que enfrentó un dilema sobre asistir a una gran conferencia. Tenía que sopesar los beneficios potenciales, como el networking y la publicación, contra preocupaciones como el impacto ambiental y circunstancias personales.

A lo largo de las discusiones, los estudiantes necesitaban considerar varios factores, incluyendo:

• La importancia de construir redes profesionales para futuras oportunidades laborales.
• Los posibles efectos negativos ambientales de viajar a la conferencia.
• La presión y los desafíos de equilibrar el trabajo y la vida personal.

A medida que deliberaban, los estudiantes utilizaron la matriz de autonomía, una herramienta para ayudarles a organizar sus pensamientos y evaluar los posibles resultados de diferentes decisiones.

#Experiencias de los Estudiantes

Después de completar la tarea, los estudiantes reflexionaron sobre sus experiencias usando el LLM como compañero de discusión. Sus comentarios revelaron varios temas sobre cómo el LLM impactó su aprendizaje.

#Aumento del Conocimiento y Comprensión

Muchos estudiantes encontraron que el LLM era un recurso útil para expandir su conocimiento. Mencionaron que proporcionaba explicaciones detalladas y los apoyaba en la comprensión de conceptos difíciles. Por ejemplo, algunos grupos usaron el LLM para explorar problemas del mundo real relacionados con conferencias y preocupaciones ambientales.

#Limitaciones en el Soporte

Aunque los estudiantes reconocieron los beneficios del LLM, algunos también señalaron sus limitaciones. Encontraron que el LLM a menudo proporcionaba definiciones superficiales en lugar de análisis en profundidad. Esto fue particularmente evidente en las discusiones sobre teorías éticas, donde los estudiantes sintieron que el LLM no facilitaba una comprensión más profunda de los problemas.

Además, los estudiantes expresaron preocupaciones sobre la fiabilidad de las respuestas del LLM. Algunos sintieron que confiar demasiado en el LLM podría llevar a malentendidos o a la aceptación de información incorrecta. Recomendaron validar la salida del LLM cruzándola con otras fuentes.

#Soporte para el Pensamiento Crítico

Los estudiantes señalaron que comparar sus discusiones en clase con las respuestas del LLM contribuyó a sus habilidades de pensamiento crítico. El LLM los llevó a considerar puntos de vista alternativos e identificar opciones que no habían pensado en las discusiones de clase.

Sin embargo, los estudiantes también advirtieron que el LLM podría sugerir cursos de acción poco realistas o sesgados. Se involucraron con estas limitaciones usando la salida del LLM como un punto de partida para la discusión en lugar de una respuesta final.

#Decidiendo un Curso de Acción

El hecho de que el LLM no ofreciera un curso de acción específico fue recibido positivamente por los estudiantes. Apreciaron que tuvieran que tomar sus propias decisiones, ya que esto permitía un compromiso más personal con los dilemas éticos. Este aspecto de la tarea enfatizó la importancia de la toma de decisiones humana en la solución de problemas éticos.

#Enfoque en el Pensamiento Crítico

En general, a los estudiantes les gustó usar el LLM como compañero en sus discusiones. Creyeron que eliminó barreras relacionadas con el lenguaje y la escritura académica formal, permitiéndoles enfocarse más en las ideas que en la expresión. Algunos estudiantes encontraron que les ayudó a superar desafíos relacionados con la competencia lingüística y las convenciones académicas.

#Perspectiva de los Educadores

Desde el punto de vista de un educador, la tarea fue diseñada para abordar componentes clave del proceso ético. Aunque el enfoque fue principalmente en dos áreas-conciencia y responsabilidad-los estudiantes pudieron tocar todos los aspectos del marco ético a lo largo de las discusiones.

Los educadores notaron que los estudiantes parecían tener una mejor comprensión de las teorías éticas y del proceso de pensamiento crítico después de interactuar con el LLM. Sin embargo, había preocupaciones sobre algunos estudiantes que depositaban demasiada confianza en la salida del LLM, particularmente aquellos con menos experiencia en el uso de tales herramientas.

#Lecciones Aprendidas

Los comentarios de los estudiantes destacaron varias lecciones importantes para futuras tareas que involucren LLMs:

1. Análisis Crítico: Se debe alentar a los estudiantes a evaluar críticamente la salida del LLM. Algunos lo veían como una figura autoritaria sin cuestionar su conocimiento.

2. Conciencia de Limitaciones: La instrucción sobre las limitaciones de los LLMs debe ser más explícita. Los estudiantes deben entender que estas herramientas no son infalibles y que la validación de la información obtenida es crucial.

3. Apoyo Estructurado: Puede ser necesario más apoyo estructurado para facilitar interacciones efectivas con los LLMs. Esto puede incluir orientación sobre cómo formular indicaciones y preguntas para obtener información útil.

4. Condiciones de Aprendizaje Igualitarias: Se debe considerar garantizar que todos los estudiantes tengan oportunidades iguales para tener éxito al trabajar con LLMs. Esto podría involucrar capacitación adicional para aquellos menos familiarizados con la tecnología.

5. Discusiones Enriquecidas: La presencia de LLMs puede enriquecer las discusiones al proporcionar perspectivas que pueden no surgir en entornos de clase tradicionales. Permiten a los estudiantes explorar temas con mayor profundidad y complejidad.

#Conclusión

La experiencia de usar un LLM como compañero de discusión en un curso de ética de la computación produjo valiosos insights sobre el papel de la tecnología en la educación. Los estudiantes se involucraron con un dilema ético ficticio y reflexionaron sobre las implicaciones de sus discusiones e interacciones con el LLM.

En general, este enfoque proporcionó una oportunidad única para que los estudiantes analizaran cuestiones éticas en un entorno de apoyo, mientras destacaba la importancia de la toma de decisiones humana en situaciones complejas. Las lecciones aprendidas de esta tarea pueden informar futuros esfuerzos para integrar LLMs y tecnologías similares en las prácticas educativas, promoviendo el pensamiento crítico y la conciencia ética en computación.