Simple Science

Scienza all'avanguardia spiegata semplicemente

# Informatica# Reti sociali e informative

Esaminare l'interazione degli utenti nei gruppi di odio online

Lo studio esplora come le risposte influenzano l'engagement nelle comunità online odiose.

― 8 leggere min


Gruppi di odio: dinamicheGruppi di odio: dinamichedi coinvolgimento svelateodio.partecipazione nelle comunità online diInterazioni negative ostacolano la
Indice

I gruppi d'odio online sono un problema reale che mette a rischio la sicurezza di molte persone e la salute delle piattaforme online. Questi gruppi possono diffondere idee dannose e creare un ambiente negativo. Volevamo capire meglio perché le persone si uniscono a questi gruppi pieni di odio e come le loro esperienze con altri utenti influenzano il loro Coinvolgimento.

Per farlo, abbiamo esaminato i post su Reddit, una piattaforma social molto popolare. Abbiamo creato strumenti per identificare le comunità di odio e analizzato un totale di 25 subreddit, che sono gruppi di discussione specifici su Reddit. La nostra analisi ha combinato 11 subreddit di odio noti con altri 14 per capire come gli utenti interagiscono e come ciò possa influenzare il loro engagement.

Abbiamo usato un metodo che confronta due gruppi di utenti. Un gruppo ha ricevuto Risposte al loro primo commento e l'altro gruppo non ha ricevuto nessuna risposta. Abbiamo scoperto che gli utenti che hanno ricevuto risposte erano in realtà meno propensi a rimanere attivi all'interno dei subreddit di odio. Questo contrasta nettamente con i subreddit non odiosi, dove ricevere risposte incoraggia una partecipazione continua.

Abbiamo anche esaminato la natura delle risposte. Utilizzando strumenti che analizzano il tono dei commenti, abbiamo scoperto che le prime risposte ai post nei subreddit di odio tendevano a essere più aggressive e negative rispetto alle risposte nei subreddit non odiosi. Inoltre, c'era un chiaro schema in cui alti livelli di attacchi e negatività nelle risposte erano legati a bassi livelli di coinvolgimento degli utenti.

In una simulazione, abbiamo testato come l'engagement cambiava quando le risposte erano amichevoli invece che ostili. I risultati hanno mostrato che risposte di supporto potevano aumentare significativamente la partecipazione degli utenti nei subreddit di odio. Questa scoperta suggerisce che anche in comunità dove l'odio è comune, le interazioni dirette possono scoraggiare i nuovi membri piuttosto che attrarli.

La crescita dei gruppi di odio online può sorprendere, specialmente perché spesso allontanano potenziali sostenitori. Nonostante la loro presenza, le interazioni tra gli utenti tendono a contrastare qualsiasi potenziale effetto di reclutamento. Sosteniamo che questo va contro l'idea che queste comunità siano forti canali per diffondere odio e radicalizzazione.

La Crescita dei Gruppi d'Odio Online

Internet ha reso più facile per le persone con opinioni di odio unirsi. Piattaforme come Reddit permettono agli utenti di discutere una vasta gamma di argomenti, e molte persone lo fanno con la protezione dell'anonimato. Anche se ci sono molte ricerche su come l'odio si diffonde online, ci manca ancora informazioni specifiche su cosa spinga le persone a diventare coinvolte in gruppi di odio.

Molte organizzazioni estremiste usano piattaforme online per reclutare nuovi membri. Quindi, capire come i membri già stabiliti interagiscono con i nuovi arrivati è importante per determinare se questi gruppi possano effettivamente attrarre e influenzare nuove persone. La maggior parte degli studi ha dimostrato che interazioni positive aiutano i nuovi arrivati a sentirsi più benvenuti nelle comunità online. Rimane la domanda: queste interazioni positive si applicano anche nelle comunità d'odio, o le attitudini negative respingono potenziali nuovi membri?

Per capire meglio questo problema, abbiamo condotto uno studio usando metodi avanzati che esaminano gli effetti delle interazioni tra utenti. Abbiamo sviluppato nuovi modi per identificare subreddit d'odio ed esaminato le connessioni tra come gli utenti rispondevano l'uno all'altro e quanto tempo rimanessero attivi in quei gruppi.

Come le Interazioni Negativa Influenzano l'Engagement

Dopo aver raccolto i dati, abbiamo analizzato come le interazioni nei subreddit d'odio e non d'odio influenzassero la partecipazione degli utenti. Abbiamo specificamente guardato alle risposte al primo post di un utente perché queste risposte tendono a impostare il tono per la partecipazione futura.

Nei subreddit non odiosi, gli utenti che ricevevano risposte erano più propensi a essere coinvolti e continuare a postare. Questo non era il caso nella maggior parte dei subreddit di odio dove i nuovi utenti mostrano una minore probabilità di coinvolgimento dopo aver ricevuto una risposta. Usando strumenti di analisi testuale, abbiamo ulteriormente esplorato il contenuto di queste risposte, trovando che i subreddit d'odio avevano una maggiore incidenza di linguaggio tossico, attacchi e sentimenti negativi.

I nostri dati mostravano che più aggressive erano le risposte, meno probabilità avevano gli utenti di rimanere attivi. Attraverso la simulazione, abbiamo scoperto che cambiare il tono delle risposte per renderle più amichevoli poteva migliorare significativamente il coinvolgimento nei subreddit d'odio, dimostrando che interazioni negative possono essere dannose per la crescita della comunità.

La Natura delle Risposte nelle Comunità d'Odio

Molte persone si uniscono a comunità online per vari motivi, come condividere informazioni, cercare supporto o semplicemente passare il tempo. Tuttavia, alcune comunità si concentrano su discussioni negative, portando a interazioni ostili. Il tipo di risposte che i nuovi arrivati ricevono gioca un ruolo significativo nella loro continua partecipazione.

Quando i nuovi utenti postano il loro primo commento, le risposte che ricevono possono incoraggiarli o scoraggiarli dal tornare. Ricerche precedenti suggeriscono che risposte gentili e personalizzate incoraggiano i nuovi arrivati a restare. Tuttavia, nei gruppi d'odio, accade il contrario, dove risposte ostili possono allontanare gli utenti.

Il nostro studio ha evidenziato la natura delle risposte nei subreddit d'odio, rivelando un modello di linguaggio aggressivo e offensivo. Questo tipo di risposta influisce su quanto spesso gli utenti decidono di tornare. Questo risultato sottolinea quanto sia importante per le comunità online, specialmente quelle inclini all'odio, monitorare le interazioni tra utenti e creare un ambiente più accogliente.

Analizzando le Risposte nei Subreddit d'Odio

Abbiamo ulteriormente esaminato il contenuto delle risposte utilizzando strumenti avanzati progettati per valutare il sentiment. Questi strumenti ci hanno aiutato a capire il tono e i livelli di negatività nelle risposte. I nostri risultati hanno mostrato che le risposte nei subreddit d'odio erano più tossiche e meno supportive rispetto a quelle nei subreddit non odiosi.

Abbiamo categorizzato la natura delle risposte utilizzando due attributi principali: Tossicità e la probabilità di un attacco al poster originale. Livelli più alti di tossicità e attacchi erano associati a livelli di coinvolgimento più bassi tra i nuovi arrivati. Applicando un modello a effetti misti, abbiamo analizzato l'influenza di queste caratteristiche delle risposte sulla retention degli utenti.

I risultati indicavano che la tossicità nelle risposte ai nuovi arrivati era un fattore principale nel scoraggiare il coinvolgimento continuo. Risposte supportive aumentavano le possibilità che gli utenti rimanessero attivi, mentre risposte tossiche portavano a disimpegno.

L'Impatto dell'Ostile sulla Crescita della Comunità

La maggior parte delle interazioni nei subreddit d'odio porta a una diminuzione dell'engagement degli utenti. L'alto tasso di attacchi e ostilità indica che i membri non stanno incoraggiando i nuovi utenti attraverso le loro risposte. Questa contraddizione suggerisce che i gruppi di odio potrebbero non essere così efficaci nel reclutare nuovi membri come si pensava inizialmente.

Nonostante l'ambiente ostile, gli individui che partecipano ai subreddit d'odio potrebbero comunque diffondere sentimenti negativi altrove. Ricerche indicano che le comunità online influenzano spesso l'una l'altra. Quindi, mentre i subreddit d'odio potrebbero non guadagnare nuovi membri, potrebbero comunque contribuire a una cultura più ampia di odio su diverse piattaforme.

I risultati della nostra ricerca possono essere importanti per gli stakeholder interessati a capire come funziona l'odio online. Le piattaforme di social media e i moderatori delle comunità dovrebbero considerare i risultati quando implementano politiche mirate a ridurre i discorsi d'odio e promuovere l'engagement.

Implicazioni più Ampie dei Risultati

Il nostro studio fa luce sulle dinamiche delle comunità d'odio e le sfide uniche che affrontano. Anche se questi gruppi possono diffondere ideologie dannose, le interazioni tra i loro membri spesso servono a ridurre la partecipazione piuttosto che ad aumentare l'engagement. Questo suggerisce che c'è potenziale per ridurre l'influenza di questi gruppi.

Creando ambienti che incoraggiano un dialogo positivo anziché ostile, le piattaforme possono non solo migliorare l'esperienza degli utenti, ma anche limitare la diffusione dell'odio. Creare spazi in cui gli utenti si sentono valorizzati e rispettati può aiutare a contrastare il messaggio negativo che spesso definisce molti gruppi d'odio.

In generale, la nostra ricerca sottolinea la necessità di un'indagine continua sulle dinamiche dell'odio online e le loro implicazioni per la costruzione della comunità. Comprendendo come interagiscono i membri, le piattaforme possono creare strategie che riducano l'odio e incoraggino interazioni più salutari.

Direzioni Future

Anche se i nostri risultati offrono importanti spunti sulle comunità d'odio, ci sono ancora molte domande da esplorare. Capire come le interazioni in un subreddit possano influenzare il comportamento in un altro può aiutare a chiarire l'impatto più ampio delle comunità d'odio.

Inoltre, è cruciale investigare il contenuto specifico delle risposte. Certi argomenti usati nei gruppi d'odio, come appelli alla paura, potrebbero avere impatti diversi. Valutare come questi argomenti funzionano potrebbe portare a strategie più chiare per moderare le discussioni in questi ambienti.

In ultimo, analizzare il comportamento degli utenti dopo che lasciano i subreddit d'odio può fornire informazioni preziose. È essenziale determinare se gli ex membri gravitano verso altri gruppi d'odio o diffondono contenuti negativi in comunità non odiose.

In generale, i nostri risultati contribuiscono a una maggiore comprensione delle dinamiche dell'odio online e sottolineano l'importanza di creare ambienti online di supporto. Speriamo che questa ricerca possa ispirare ulteriori esplorazioni e portare a interventi più efficaci contro l'odio online.

Fonte originale

Titolo: No Love Among Haters: Negative Interactions Reduce Hate Community Engagement

Estratto: While online hate groups pose significant risks to the health of online platforms and safety of marginalized groups, little is known about what causes users to become active in hate groups and the effect of social interactions on furthering their engagement. We address this gap by first developing tools to find hate communities within Reddit, and then augment 11 subreddits extracted with 14 known hateful subreddits (25 in total). Using causal inference methods, we evaluate the effect of replies on engagement in hateful subreddits by comparing users who receive replies to their first comment (the treatment) to equivalent control users who do not. We find users who receive replies are less likely to become engaged in hateful subreddits than users who do not, while the opposite effect is observed for a matched sample of similar-sized non-hateful subreddits. Using the Google Perspective API and VADER, we discover that hateful community first-repliers are more toxic, negative, and attack the posters more often than non-hateful first-repliers. In addition, we uncover a negative correlation between engagement and attacks or toxicity of first-repliers. We simulate the cumulative engagement of hateful and non-hateful subreddits under the contra-positive scenario of friendly first-replies, finding that attacks dramatically reduce engagement in hateful subreddits. These results counter-intuitively imply that, although under-moderated communities allow hate to fester, the resulting environment is such that direct social interaction does not encourage further participation, thus endogenously constraining the harmful role that these communities could play as recruitment venues for antisocial beliefs.

Autori: Daniel Hickey, Matheus Schmitz, Daniel Fessler, Paul Smaldino, Goran Muric, Keith Burghardt

Ultimo aggiornamento: 2023-03-23 00:00:00

Lingua: English

URL di origine: https://arxiv.org/abs/2303.13641

Fonte PDF: https://arxiv.org/pdf/2303.13641

Licenza: https://creativecommons.org/licenses/by/4.0/

Modifiche: Questa sintesi è stata creata con l'assistenza di AI e potrebbe presentare delle imprecisioni. Per informazioni accurate, consultare i documenti originali collegati qui.

Si ringrazia arxiv per l'utilizzo della sua interoperabilità ad accesso aperto.

Altro dagli autori

Articoli simili