Aumento del discurso de odio y actividad de bots en Twitter tras la toma de control de Musk

El 27 de octubre de 2022, Elon Musk compró Twitter por 44 mil millones de USD. Se convirtió en el nuevo CEO y despidió a muchos ejecutivos de alto nivel. Quería hacer cambios, incluyendo tener menos reglas sobre lo que los usuarios pueden publicar y reducir el número de Bots de spam en el sitio. Sin embargo, mucha gente estaba preocupada porque relajar estas reglas podría llevar a más Discurso de odio.

Después de que Musk tomó el control, estudios mostraron un gran aumento en el discurso de odio en Twitter. Encontraron que la cantidad de discurso de odio subió mucho justo después de que él asumió, y la mayoría de los tipos de bots también aumentaron. Pero curiosamente, el número de un tipo específico de bot conocido como bots astroturf bajó.

Antes del acuerdo, Musk dijo que quería cambiar Twitter para apoyar la libertad de expresión. Planeaba abrir los algoritmos de Twitter al público, suavizar las reglas de Moderación de Contenido y enfrentar a los bots de spam. Después de la compra, algunos de los cambios incluyeron la reinstauración de la cuenta de Donald Trump, eliminar una política de desinformación sobre COVID-19 y cerrar un grupo que asesoraba sobre moderación de contenido. Musk luego afirmó que las impresiones de discurso de odio disminuyeron después de un aumento inicial, pero no explicó cómo midió el discurso de odio.

Dadas las promesas de Musk de tener reglas de contenido menos estrictas y la investigación que sugiere que una moderación más ligera lleva a más discurso de odio, se esperaba que el discurso de odio aumentara en Twitter tras su toma de control. Los investigadores revisaron tuits en busca de discurso de odio usando palabras clave específicas y una herramienta llamada Perspective API para ayudar a identificar tuits dañinos.

Analizaron con qué frecuencia aparecía el discurso de odio en tuits antes y después de la compra de Musk. Esto involucró recolectar tuits de usuarios que habían publicado discurso de odio un mes antes y después de la compra y medir las tasas diarias de discurso de odio. También recopilaron números generales de tuits llenos de odio a lo largo de 2022. Dado que Musk afirmó que cortaría el número de bots, también examinaron si el número de bots cambió después de su toma de control.

Los hallazgos mostraron que tanto los discursos de odio como las puntuaciones de bots aumentaron tras la compra de Musk. Aunque no se pudieron determinar las razones exactas de estos cambios a partir del análisis, los cambios en el panorama de Twitter plantearon preguntas sobre el futuro de la plataforma.

#La Relación Entre el Discurso de Odio y la Moderación de Contenido

Estudios previos sobre plataformas de redes sociales con diferentes reglas de moderación pueden ayudarnos a entender qué podría pasar en Twitter ahora. Un ejemplo es Gab, una plataforma diseñada para tener menos restricciones sobre la libertad de expresión. Gab tenía niveles de discurso de odio mucho más altos que Twitter, mientras que Twitter tenía niveles de discurso de odio más bajos que un sitio conocido llamado 4Chan, que es conocido por tener poca moderación. La investigación muestra que la moderación en plataformas conocidas ayuda a reducir el discurso de odio y el crecimiento de comunidades odiosas. Algunos expertos advierten que moverse a plataformas menos moderadas puede llevar a más discurso de odio.

#El Papel de los Bots en Twitter

Los bots son cuentas automatizadas que existen ampliamente en Twitter, representando alrededor del 9-15% de todas las cuentas. Los estudios indican que a menudo la gente no puede distinguir entre bots y usuarios reales, lo que hace que su presencia en Twitter sea menos obvia. Hay varios tipos de bots: algunos apoyan a candidatos políticos, mientras que otros son seguidores falsos o spammers que promocionan productos o ideas. Los bots pueden difundir desinformación y odio, influyendo en discusiones sobre muchos temas.

#Métodos para Medir el Discurso de Odio

Para medir los cambios en los niveles de discurso de odio después de que Musk comprara Twitter, los investigadores desarrollaron un método para identificar el discurso de odio en la plataforma. Comenzaron reuniendo vocabulario vinculado a grupos de odio para encontrar un conjunto de palabras clave odiadas. Usando comunidades de Reddit conocidas por el discurso de odio, identificaron palabras clave que se utilizan a menudo en contenido odioso. Después de evaluar estas palabras clave, terminaron con 49 que se consideraron odiosas.

Para recopilar datos, utilizaron la API Académica de Twitter, que permite a los investigadores recolectar tuits. Debido a los límites sobre cuántos tuits se pueden recopilar, muestrearon aleatoriamente tuits que contenían sus palabras clave de odio durante diferentes intervalos de cinco minutos cada día en 2022. Este muestreo aleatorio tenía como objetivo evitar sesgos en la selección de momentos que pudieran tener más o menos ocasiones de discurso de odio.

Porque solo tener palabras de odio no significa automáticamente que un tuit sea odioso, los investigadores también utilizaron la API Perspective para filtrar sus datos. Esta herramienta evalúa si los comentarios son groseros o irrespetuosos. Se centraron en tuits que obtuvieron un cierto porcentaje de toxicidad. También filtraron contenido sexualmente explícito para asegurarse de que los datos se centraran solo en el discurso de odio.

Para asegurar que cualquier cambio en el discurso de odio no fuera simplemente debido a la actividad general en Twitter, los investigadores también muestrearon un conjunto de tuits base recolectados en los mismos intervalos de tiempo. Usaron una palabra clave común, "cosa," como referencia para establecer niveles de actividad general en la plataforma.

#Analizando el Comportamiento de Usuarios Odiosos

Para ver cómo reaccionaron los usuarios odiosos después de la compra de Musk, los investigadores muestrearon tuits históricos de Twitter utilizando el vocabulario de discurso de odio en momentos elegidos al azar. Eliminando cuentas que publicaron un número excesivo de tuits después de la compra para asegurarse de que pudieran analizar los niveles de discurso de odio con precisión. Los investigadores examinaron con qué frecuencia se utilizó el discurso de odio en estos tuits a lo largo del tiempo para rastrear tendencias.

#Evaluando la Actividad de Bots

Para identificar bots, los investigadores utilizaron una herramienta llamada Botometer que observa varias características de las cuentas de Twitter para predecir si son automatizadas. Botometer da una puntuación que indica si es probable que una cuenta sea un bot y las categoriza en diferentes tipos. Los investigadores compararon las puntuaciones de Botometer antes y después de la compra de Musk para determinar si hubo cambios en la actividad de bots.

Los hallazgos revelaron que los usuarios odiosos usaron más discurso de odio tras la toma de control de Musk. La cantidad de discurso de odio de estos usuarios aumentó drásticamente. Después del aumento inicial, los niveles de discurso de odio se mantuvieron por encima de los niveles más altos registrados anteriormente, indicando una nueva norma de uso del discurso de odio en la plataforma.

#Aumento General en el Discurso de Odio

Los datos mostraron un claro aumento en el volumen de tuits odiosos tras la compra de Musk. Mientras que el número de tuits base se mantuvo constante, el volumen de tuits odiosos aumentó rápidamente. Este aumento en el discurso de odio fue consistente independientemente de los umbrales utilizados para filtrar contenido no odioso.

#Cambios en la Presencia de Bots

El análisis de las puntuaciones de Botometer reveló que la presencia de la mayoría de los tipos de bots cambió tras la adquisición de Musk. Las puntuaciones promedio para cuentas de spammers y seguidores falsos aumentaron tanto para las cuentas odiosas como para las utilizadas como control, mientras que las puntuaciones de los bots astroturf disminuyeron en el grupo de control.

Es esencial notar que aunque algunas acciones pueden tardar en mostrar resultados, los investigadores no encontraron disminuciones en las puntuaciones generales de bots. En lugar de eso, categorías específicas vieron aumentos significativos, advirtiendo contra interpretar estos hallazgos como una evaluación de los esfuerzos de Musk para prevenir bots.

#Consecuencias del Aumento del Odio en Twitter

El análisis apuntó a aumentos significativos en el discurso de odio tras la adquisición de Musk, sin indicios de que estos niveles volvieran a lo que eran antes. Investigaciones previas han mostrado que el discurso de odio en línea puede llevar a un aumento de la ansiedad e incluso violencia contra grupos específicos. Por lo tanto, los cambios en las políticas de moderación de Twitter podrían tener consecuencias de gran alcance.

Los investigadores también destacaron la incertidumbre en torno al compromiso de Musk para reducir las cuentas de bots. Aunque Musk expresó su deseo de reducir los bots de spam, no está claro cómo su definición se relaciona con la medición de Botometer. La disminución de bots astroturf observada durante las elecciones de medio término en EE. UU. plantea preguntas sobre la naturaleza de la actividad de bots durante este período.

Una posible explicación para el aumento de bots radica en la reducción significativa de la fuerza laboral de Twitter, lo que podría haber incluido a empleados responsables de manejar cuentas de bots. Si aquellos que gestionaban bots perdieron sus trabajos o abandonaron la plataforma, esto podría explicar el aumento en la actividad de bots.

#Limitaciones y Direcciones de Investigación Futuras

Si bien el análisis documentó cambios significativos en cuanto al discurso de odio y la presencia de bots, muchas preguntas siguen sobre el futuro de Twitter. Los investigadores notaron que su trabajo no debería verse como prueba de vínculos causales directos entre la adquisición de Musk y los niveles de discurso de odio o actividad de bots ya que los cambios en políticas específicas no fueron bien explicados.

Entender cómo han cambiado las políticas individuales y cómo estos cambios impactaron la plataforma sería valioso. Cada puntuación de bot fue calculada después de la compra de Musk, lo que genera preocupaciones sobre si los comportamientos de los usuarios cambiaron para volverse más parecidos a los bots tras la toma de control.

Además, la visibilidad de los bots en Twitter sigue siendo incierta. Podrían haberse implementado políticas para ocultar bots a los usuarios en lugar de eliminarlos completamente de la plataforma. Estudios futuros deberían centrarse en métricas de interacción para ver si las interacciones de los usuarios con los bots han cambiado desde que Musk tomó el control.

Los investigadores también necesitan abordar la pregunta sobre el impacto de Musk en los usuarios reales en Twitter. Dado que el aumento en las puntuaciones de bots podría reflejar una disminución de la actividad humana en la plataforma, es vital determinar si los cambios observados se debieron a que los usuarios abandonaron Twitter o a un aumento de bots.

En resumen, los hallazgos presentan un panorama complejo del discurso de odio y la actividad de bots en Twitter tras la adquisición de Elon Musk. Las posibles consecuencias sociales de estos cambios subrayan la necesidad de una investigación continua y un monitoreo del ambiente de la plataforma.