Modelos de Lenguaje Grandes y Predicciones Electorales

En el mundo de predecir elecciones, hay un nuevo jugador en la ciudad: los Modelos de Lenguaje Grande (LLMs). Piensa en estos modelos como generadores de texto supercargados que pueden ayudarnos a adivinar quién podría ganar la próxima elección presidencial.

#¿Qué son los LLMs?

Los Modelos de Lenguaje Grande son programas de computadora que pueden entender y generar lenguaje humano. Están entrenados con un montón de texto y pueden realizar tareas complejas como escribir artículos, responder preguntas y sí, predecir resultados electorales. Funcionan observando patrones en palabras y oraciones de sus datos de entrenamiento y usando esa info para hacer conjeturas educadas sobre el futuro.

#Un nuevo enfoque: Predicción basada en distribución

El enfoque que estamos discutiendo aquí se llama Predicción basada en distribución. En vez de tratar de adivinar quién ganará simulando votantes individuales, que a menudo acaba siendo tan confuso como el arte de un niño, miramos las probabilidades que el modelo genera como distribuciones, o grupos de resultados probables. Es como dar un paso atrás y ver el panorama en vez de perderse en los pequeños detalles.

#Usando datos estatales para las predicciones

Ahora, si piensas que predecir quién ganará la elección es tan fácil como lanzar una moneda, piénsalo de nuevo. ¡Involucra un montón de análisis y números a partir de datos de votantes de diferentes estados! Usamos estos modelos para pronosticar las cuotas de votación para cada candidato en cada estado.

Aquí viene la parte divertida: Cada estado actúa como una mini-elección dentro de la gran elección. Al predecir el voto en cada estado, podemos tener una idea más clara de quién podría llevarse el gran premio al final: ¡la presidencia!

#Cómo hacemos las predicciones

Para hacer predicciones, necesitamos preguntarle al modelo las preguntas correctas. Creamos un “sistema de aviso” que le dice al modelo que actúe como un predictor electoral neutral. Esto ayuda al modelo a centrarse en dar predicciones imparciales. Luego, seguimos con un “aviso de usuario” que especifica lo que queremos saber, como el porcentaje de votos que un candidato obtendrá en un estado específico.

Por ejemplo, podríamos preguntar: “¿Qué porcentaje del voto ganará el Candidato A en California?” Suena sencillo, ¿verdad? Pero la verdadera habilidad está en lo que el modelo hace con ese aviso para predecir el comportamiento de los votantes.

#Entendiendo las distribuciones de salida

Cuando le damos al modelo el aviso como se describió, genera una distribución de probabilidad. Esto significa que proporciona un rango de posibles resultados basado en su conocimiento interno de todo lo que aprendió durante el entrenamiento. En lugar de atenerse a una sola conjetura, comparte toda una variedad de predicciones.

Esta variedad ayuda a capturar la incertidumbre en las elecciones, donde las cosas pueden cambiar rápidamente. Si has estado siguiendo las noticias, sabes lo locas que pueden ser las temporadas electorales.

#Probando contra datos históricos

Para ver qué tan bien funcionan nuestras predicciones, podemos mirar elecciones anteriores y ver cómo habría rendido nuestro modelo. Por ejemplo, cuando lo probamos contra las elecciones presidenciales de EE. UU. de 2020, descubrimos que las predicciones del modelo estaban sorprendentemente cerca de los resultados reales. La mayoría de los resultados previstos estaban dentro de un único porcentaje de los porcentajes de voto reales.

Incluso estados como Iowa, que pueden inclinarse hacia cualquier lado, tuvieron predicciones que coincidían estrechamente con lo que finalmente sucedió. ¡Casi puedes imaginar al modelo sonriendo mientras acertaba esas predicciones!

#Simulando elecciones futuras

Ahora que tenemos un método de predicción confiable, miremos hacia la elección presidencial de 2024. Usando el mismo enfoque, podemos pedirle al modelo predicciones sobre la elección entre caras conocidas: Donald Trump y Kamala Harris.

La belleza de este método predictivo es que podemos cambiar los nombres y simular numerosas confrontaciones hipotéticas. ¿Quieres ver cómo podría ir una carrera entre Chuck y Dave? ¡Facilísimo! Solo introduce los nombres y ¡voilà!

#Los efectos del ruido en los avisos

Un desafío al trabajar con LLMs es el impacto del “ruido en el aviso.” Esto es una forma elegante de decir que la forma en que formulamos nuestras preguntas puede afectar las respuestas que obtenemos. Piensa en ello como preguntar a tu amigo sobre la cena: si dices, “¿Qué quieres para cenar?” versus “¿Tienes hambre?” podrías obtener dos respuestas muy diferentes.

De la misma manera, si formulamos nuestros avisos de manera diferente, el modelo podría producir diferentes salidas. Es un poco como jugar al teléfono donde el mensaje original puede distorsionarse en el camino.

#Encontrando y midiendo sesgos

Cuando miramos las predicciones del modelo, también queremos chequear si tiene algún sesgo, algo así como esos viejos dibujos animados donde los personajes solo ven las cosas en blanco y negro. La investigación ha demostrado que algunos modelos pueden favorecer a un partido político sobre otro.

Por ejemplo, nuestras pruebas encontraron que el modelo tenía una tendencia a inclinarse más hacia las predicciones demócratas en estados indecisos. Esto significa que, si bien a veces acertaba, también tenía la costumbre de inclinarse en una dirección, como si estuviera en un balancín.

#El desafío de los datos antiguos

Una gran limitación de los LLMs es que están entrenados con datos solo hasta cierta fecha. Si el mundo cambia después de eso, el modelo podría no estar actualizado. Por ejemplo, si nuestro modelo fue entrenado en octubre de 2023 y la elección es en mayo de 2024, puede que no tenga la información más reciente.

Para solucionar esto, podemos intentar agregar información actualizada a nuestros avisos o incluso ajustar el modelo con nuevos datos. Pero eso puede ser un poco complicado, y podrías encontrarte con el problema de tener que filtrar toneladas de información para entender lo que es relevante.

#Midiendo qué tan bien funcionan los modelos

Para verificar cuán fielmente el modelo predice resultados, podemos comparar sus salidas con resultados reales. Al observar los datos de votación a nivel estatal, podemos averiguar cuán alineadas están las conjeturas del modelo con los eventos reales.

Esto es crucial porque queremos evaluar cuán efectivo es el modelo al predecir resultados electorales reales. Si se equivoca por mucho, entonces ¡de vuelta al tablero de dibujo!

#El futuro de las predicciones electorales

Aún hay mucho que explorar en este campo. Necesitamos probar la solidez de nuestros métodos de predicción y abordar problemas como el ruido en los avisos de manera más efectiva. Además, podemos extender este método más allá de las elecciones a otros dominios como predecir resultados de juegos deportivos o incluso pronósticos del clima.

Las aplicaciones potenciales son vastas, y quién sabe. ¡Un día podríamos incluso tener un modelo que nos diga si va a llover después de predecir el próximo gran juego!

#El impacto del tamaño del modelo

Curiosamente, el tamaño del modelo afecta su capacidad para predecir con precisión. En las pruebas, los modelos más pequeños tendían a generalizar demasiado y pasaban por alto las sutilezas del comportamiento político. A medida que el modelo aumenta de tamaño, mejora su comprensión de diferentes regiones y demografías y puede hacer predicciones más refinadas.

Imagina intentar reconocer a alguien en una fiesta llena de gente con solo una foto borrosa. ¡Cuanto más grande y más clara sea la imagen, más fácil será identificar a la persona!

#Conclusión

En resumen, usar LLMs para predecir elecciones en EE. UU. ofrece una nueva perspectiva de cómo podemos utilizar la tecnología para entender el comportamiento del votante. Al tratar las salidas como distribuciones de probabilidad, podemos tener una mejor idea de la gama de posibilidades que podrían desarrollarse a medida que se acerque el día de las elecciones.

A medida que sigamos probando y refinando nuestros métodos, ¿quién sabe? ¡Podríamos convertir este proceso predictivo en una máquina bien engrasada, lista para afrontar elecciones durante muchos años!