Simple Science

Ciencia de vanguardia explicada de forma sencilla

# Estadística# Aplicaciones

Analizando el rendimiento de los estudiantes a través de las respuestas de los exámenes

Este estudio examina cómo los tiempos de respuesta impactan en las evaluaciones de habilidad de los estudiantes.

― 6 minilectura


Repensando el Análisis deRepensando el Análisis dePruebas Estudiantileshabilidades.respuesta mejoran las evaluaciones deUn estudio revela que los tiempos de
Tabla de contenidos

Este documento analiza cómo podemos entender mejor el rendimiento de los estudiantes al analizar sus respuestas en los exámenes y el tiempo que tardan en contestar las preguntas. Nos enfocamos en datos de una evaluación internacional importante y exploramos la idea de que medir tanto el rendimiento como el tiempo de respuesta puede darnos una imagen más clara de las habilidades de un estudiante.

La Importancia del Tiempo de Respuesta

En los últimos años, las pruebas computarizadas se han vuelto más comunes, permitiendo a los investigadores recopilar datos sobre cuánto tiempo tardan los estudiantes en responder a cada pregunta. Estos datos de tiempo de respuesta (RT) pueden ofrecer información sobre el proceso de pensamiento y el comportamiento de los estudiantes al hacer un examen. Por ejemplo, un estudiante que responde rápido podría estar adivinando, mientras que una respuesta más lenta podría indicar una consideración cuidadosa. Al combinar los datos de respuesta con la información de RT, podemos crear una vista más completa de las habilidades de un estudiante.

Modelos Actuales y Sus Limitaciones

La mayoría de los modelos actuales para analizar los datos de exámenes se enfocan en las respuestas o en los tiempos de respuesta por separado. Un enfoque ampliamente utilizado combina ambos, pero enfrenta limitaciones. A menudo, estos modelos hacen suposiciones estrictas que pueden llevar a conclusiones inexactas sobre la relación entre la velocidad de respuesta y la habilidad. Por ejemplo, podrían asumir que todos los estudiantes con habilidades similares tendrán velocidades de respuesta similares, lo cual puede no ser cierto.

Para abordar estos problemas, proponemos un nuevo método que relaja algunas de estas suposiciones estrictas. Nuestro objetivo es ver si podemos modelar los tiempos de respuesta y las respuestas a los ítems juntos sin perder precisión.

Nuestro Enfoque

El nuevo modelo que desarrollamos se llama modelo semiparamétrico de estructura simple. Esto significa que permitimos cierta flexibilidad en cómo medimos las relaciones entre los tiempos de respuesta y el rendimiento. Nos permite examinar la relación entre la habilidad de un estudiante y su velocidad de respuesta sin imponer restricciones demasiado simplistas.

Analizamos datos de la evaluación de 2015, enfocándonos en Matemáticas. Nuestras preguntas de investigación incluyen:

  1. ¿Es un modelo simple suficiente para analizar juntos tanto las pruebas como los tiempos de respuesta?
  2. ¿Qué tan ligadas están las habilidades matemáticas de un estudiante y su velocidad de procesamiento general?
  3. ¿Puede considerar los tiempos de respuesta mejorar la precisión de las estimaciones de habilidad?

Análisis de los Datos

Utilizamos un conjunto de datos de una evaluación internacional de estudiantes bien conocida. La prueba consiste en muchos ítems, con algunas preguntas agrupadas en testlets. Cada testlet tiene un par de preguntas, lo que nos permite examinar cómo les va a los estudiantes en ítems relacionados.

El proceso implica varios pasos. Primero, limpiamos el conjunto de datos eliminando tiempos de respuesta extremos, que pueden sesgar los resultados. Luego, aplicamos nuestro nuevo modelo para analizar los datos.

Resultados del Análisis

Hallazgos Iniciales

Nuestros hallazgos iniciales sugieren que un modelo simple funciona bien para la mayoría de los datos. Hay un par de pares de ítems donde las respuestas y los tiempos de respuesta están estrechamente relacionados, lo que nuestro modelo no captura completamente. Sin embargo, estas instancias no afectan significativamente nuestras conclusiones generales.

Tiempos de Respuesta y Habilidades

Cuando miramos de cerca cómo se relacionan los tiempos de respuesta con las habilidades, notamos una conexión fuerte. Los estudiantes que tardan más en responder suelen tener niveles de habilidad más bajos, mientras que aquellos que son más rápidos tienden a obtener puntuaciones más altas. Este hallazgo desafía las suposiciones anteriores que sugerían una correlación débil.

Mejora en las Estimaciones de Habilidad

Al incluir los tiempos de respuesta en nuestro análisis, encontramos que la precisión de las estimaciones de habilidad mejoró en aproximadamente un 10%. Esto significa que cuando consideramos cuánto tiempo tardan los estudiantes en responder preguntas junto con sus respuestas, podemos hacer mejores conjeturas sobre sus verdaderas habilidades.

Discusión de Hallazgos

Estos resultados sugieren varios puntos importantes. Primero, combinar los tiempos de respuesta con las respuestas de los ítems proporciona una imagen más completa del rendimiento del estudiante. Nos ayuda a entender no solo cuántas preguntas acierta un estudiante, sino también cómo aborda el examen.

En segundo lugar, los hallazgos indican que las suposiciones tradicionales sobre la relación entre la velocidad y la habilidad pueden no ser válidas. Al usar nuestro nuevo modelo, capturamos una vista más compleja y realista de esta relación.

Por último, incorporar los tiempos de respuesta puede mejorar la precisión en las puntuaciones, haciendo que las evaluaciones sean más efectivas. Esto es especialmente útil para desarrollar pruebas adaptativas que puedan ajustarse mejor al nivel de habilidad de un estudiante.

Direcciones Futuras

Hay varias rutas para futuras investigaciones que explorar. Una posibilidad es ampliar nuestro modelo para incluir múltiples rasgos latentes, como diferentes áreas de conocimiento o habilidades. Esto podría proporcionar una visión más profunda de cómo se interrelacionan varios aspectos del rendimiento estudiantil.

Otra área para explorar es el uso de este modelo en pruebas de formato mixto, que incluyen tanto preguntas de opción múltiple como respuestas abiertas. Manejar estos diferentes tipos de datos sigue siendo un desafío, pero podría conducir a hallazgos más ricos.

Además, hay una necesidad de trabajo teórico sobre las propiedades estadísticas de los modelos semiparamétricos. A medida que estos enfoques se vuelven más comunes, entender sus límites y potencial será crucial.

Conclusión

Esta investigación resalta la importancia de mirar tanto las respuestas de los estudiantes como los tiempos que tardan en responder preguntas. Al combinar estos dos aspectos, podemos lograr una mejor comprensión del rendimiento del estudiante. Nuestro modelo semiparamétrico ofrece una forma flexible de analizar estos datos, lo que lleva a estimaciones de habilidad más precisas y a una comprensión más profunda de las relaciones entre la velocidad de respuesta y el rendimiento. A medida que los métodos de evaluación continúan evolucionando, adoptar este enfoque puede ayudar a educadores e investigadores a evaluar mejor las habilidades y necesidades de los estudiantes.

Fuente original

Título: What Can We Learn from a Semiparametric Factor Analysis of Item Responses and Response Time? An Illustration with the PISA 2015 Data

Resumen: It is widely believed that a joint factor analysis of item responses and response time (RT) may yield more precise ability scores that are conventionally predicted from responses only. For this purpose, a simple-structure factor model is often preferred as it only requires specifying an additional measurement model for item-level RT while leaving the original item response theory (IRT) model for responses intact. The added speed factor indicated by item-level RT correlates with the ability factor in the IRT model, allowing RT data to carry additional information about respondents' ability. However, parametric simple-structure factor models are often restrictive and fit poorly to empirical data, which prompts under-confidence in the suitablity of a simple factor structure. In the present paper, we analyze the 2015 Programme for International Student Assessment (PISA) mathematics data using a semiparametric simple-structure model. We conclude that a simple factor structure attains a decent fit after further parametric assumptions in the measurement model are sufficiently relaxed. Furthermore, our semiparametric model implies that the association between latent ability and speed/slowness is strong in the population, but the form of association is nonlinear. It follows that scoring based on the fitted model can substantially improve the precision of ability scores.

Autores: Yang Liu, Weimeng Wang

Última actualización: 2023-07-30 00:00:00

Idioma: English

Fuente URL: https://arxiv.org/abs/2303.10079

Fuente PDF: https://arxiv.org/pdf/2303.10079

Licencia: https://creativecommons.org/licenses/by/4.0/

Cambios: Este resumen se ha elaborado con la ayuda de AI y puede contener imprecisiones. Para obtener información precisa, consulte los documentos originales enlazados aquí.

Gracias a arxiv por el uso de su interoperabilidad de acceso abierto.

Más de autores

Artículos similares