Simple Science

Ciencia de vanguardia explicada de forma sencilla

# Informática# Computación y lenguaje# Inteligencia artificial

El impacto del discurso provocador en India

Explorando cómo las publicaciones de WhatsApp provocan tensiones entre comunidades religiosas en India.

― 5 minilectura


Provocación en las redesProvocación en las redessociales de Indiatravés de publicaciones de WhatsApp.Examinando el aumento de la ira a
Tabla de contenidos

En India, la identidad de la gente está muy relacionada con su religión. Los dos grupos religiosos más grandes en el país son hindúes y musulmanes. A menudo, surgen tensiones entre estos grupos, especialmente cuando hay provocaciones. Esta provocación puede generar enojo y violencia. Con el aumento de las Redes Sociales, plataformas como WhatsApp se han convertido en un nuevo escenario para este tipo de provocación.

Entendiendo la Provocación

La provocación se refiere a palabras o acciones que generan fuertes emociones, a menudo enojo o un deseo de actuar. En el contexto de los grupos religiosos, la provocación puede hacer que la gente se sienta hostil hacia los demás por su fe. La investigación ha demostrado que ciertas frases pueden provocar a los lectores en contra de grupos religiosos específicos. En este caso, analizamos cómo algunos mensajes en WhatsApp pueden provocar sentimientos contra los musulmanes indios.

Analizando Publicaciones de WhatsApp

Se llevó a cabo un estudio utilizando publicaciones existentes de WhatsApp para identificar frases que provocan sentimientos negativos hacia los musulmanes. Se crearon varias categorías para estas frases provocativas, enfocándose en cómo podrían hacer sentir a los lectores. El esfuerzo involucró etiquetar alrededor de 7,000 frases para ver cómo se clasificaban en tres categorías principales: acciones provocativas, cultura religiosa y opresión religiosa.

  1. Acciones Provocativas: Estas frases instan a los lectores a tomar acciones específicas contra los musulmanes, como boicotear negocios o presionar por agendas políticas.

  2. Cultura Religiosa: Esta categoría incluye frases que apuntan a las creencias o prácticas de los musulmanes, a menudo presentando sus escrituras o líderes de manera negativa.

  3. Opresión Religiosa: Estas frases mencionan eventos o comportamientos pasados que pintan a los musulmanes como opresores, alimentando así la animosidad.

El Papel de las Redes Sociales

Las redes sociales han cambiado la forma en que la gente se comunica. Proporcionan una plataforma donde los mensajes pueden difundirse rápidamente, a menudo sin ninguna moderación. Esto es particularmente preocupante con el cifrado de WhatsApp, que dificulta el seguimiento o control de mensajes dañinos. Publicaciones que infunden miedo o provocan enojo pueden llegar fácilmente a grandes audiencias, llevando a potenciales consecuencias en el mundo real.

Identificando Frases Provocativas

Para abordar el problema, los investigadores entrenaron un modelo de aprendizaje automático para identificar estas frases provocativas automáticamente. El objetivo era prevenir que tales mensajes se propagaran y causaran más daño. Al analizar cómo se construyeron estas frases, los investigadores pudieron entender mejor sus intenciones subyacentes.

Los Hallazgos

El estudio reveló varias tendencias preocupantes. Por ejemplo, encontró que las publicaciones podían provocar enojo sin usar un lenguaje abusivo. Esto hace que la identificación de tales mensajes sea un desafío. Los investigadores destacaron varias estrategias utilizadas en las frases que pueden conducir a la provocación.

  1. Acusaciones: Muchas publicaciones contenían acusaciones contra los musulmanes, sugiriendo que no son de fiar o son peligrosos.

  2. Difamación: Frases que atacaban a los musulmanes en su totalidad, en lugar de mirar a individuos o eventos específicos, eran comunes.

  3. Crítica de Creencias: Algunas publicaciones criticaban los aspectos fundamentales del islam, lo que podría hacer que los lectores musulmanes se sintieran atacados.

  4. Órdenes: Muchas frases no solo acusaban, sino que también instaban a los lectores a actuar contra los musulmanes, ya sea en apoyo a hindúes o contra una amenaza percibida.

Implicaciones del Discurso Provocativo

Las consecuencias del discurso provocativo son significativas. Puede llevar a violencia y discriminación en el mundo real. Al provocar a los lectores, estos mensajes pueden crear un ambiente de hostilidad. A medida que los temores y el enojo crecen, esto puede llevar a acciones que dañan a personas o comunidades.

Preguntas de Investigación

Los investigadores plantearon varias preguntas para guiar su estudio:

  1. ¿Cómo podemos identificar frases que provocan emociones negativas contra un grupo religioso?
  2. ¿Qué tipos de actos de diálogo están presentes en estas frases provocativas?
  3. ¿Qué estrategias de descortesía utilizan los escritores para atacar a grupos religiosos?

Contribuciones al Campo

Este estudio contribuye a una mejor comprensión de cómo el lenguaje puede provocar y dividir comunidades. Al centrarse en el discurso provocativo, los investigadores pueden diferenciarlo del discurso de odio o del miedo. Esto es crucial ya que estas formas de discurso a menudo pueden superponerse, haciendo esencial señalar sus diferencias.

Perspectivas Clave

  1. Tipos de Actos de Diálogo: El estudio identificó varios actos de diálogo típicos utilizados en frases provocativas, como acusaciones y órdenes. Esta comprensión puede ayudar en el desarrollo de mejores herramientas de detección.

  2. Estrategias de Descortesía: Los investigadores encontraron que las frases a menudo empleaban estrategias que eran directas en su ataque, permitiéndoles provocar sin necesariamente usar lenguaje abusivo.

  3. Rendimiento Promedio de los Modelos: El modelo desarrollado en este estudio pudo lograr una alta tasa de precisión en la identificación de frases provocativas, demostrando la efectividad del aprendizaje automático en este contexto.

La Necesidad de Más Investigación

Si bien los hallazgos destacan problemas significativos, aún queda mucho por hacer. Estudios futuros podrían ampliar esta investigación enfocándose en otros grupos religiosos que enfrentan provocaciones similares, como sijs o cristianos. Además, examinar publicaciones de una gama más amplia de plataformas de redes sociales podría proporcionar más información.

Conclusión

El estudio de la provocación, especialmente en un país diverso como India, es crucial para entender la dinámica social. A medida que las redes sociales continúan creciendo, el potencial del discurso provocativo para influir en la opinión pública y comportamientos plantea desafíos significativos. Al invertir en investigación y desarrollar herramientas para identificar y abordar dicho discurso, podemos trabajar hacia una sociedad más respetuosa y comprensiva.

Fuente original

Título: PACO: Provocation Involving Action, Culture, and Oppression

Resumen: In India, people identify with a particular group based on certain attributes such as religion. The same religious groups are often provoked against each other. Previous studies show the role of provocation in increasing tensions between India's two prominent religious groups: Hindus and Muslims. With the advent of the Internet, such provocation also surfaced on social media platforms such as WhatsApp. By leveraging an existing dataset of Indian WhatsApp posts, we identified three categories of provoking sentences against Indian Muslims. Further, we labeled 7,000 sentences for three provocation categories and called this dataset PACO. We leveraged PACO to train a model that can identify provoking sentences from a WhatsApp post. Our best model is fine-tuned RoBERTa and achieved a 0.851 average AUC score over five-fold cross-validation. Automatically identifying provoking sentences could stop provoking text from reaching out to the masses, and can prevent possible discrimination or violence against the target religious group. Further, we studied the provocative speech through a pragmatic lens, by identifying the dialog acts and impoliteness super-strategies used against the religious group.

Autores: Vaibhav Garg, Ganning Xu, Munindar P. Singh

Última actualización: 2023-03-19 00:00:00

Idioma: English

Fuente URL: https://arxiv.org/abs/2303.12808

Fuente PDF: https://arxiv.org/pdf/2303.12808

Licencia: https://creativecommons.org/licenses/by/4.0/

Cambios: Este resumen se ha elaborado con la ayuda de AI y puede contener imprecisiones. Para obtener información precisa, consulte los documentos originales enlazados aquí.

Gracias a arxiv por el uso de su interoperabilidad de acceso abierto.

Más de autores

Artículos similares