Examinando Comportamentos Tóxicos no Twitter
Um estudo analisa usuários tóxicos no Twitter pra ajudar nas ações de moderação.
― 4 min ler
Índice
As plataformas de mídia social, especialmente o Twitter, têm enfrentado desafios por causa de comportamentos tóxicos. Esse problema é bem comum, onde um número pequeno de usuários gera uma grande parte do conteúdo prejudicial. É fundamental estudar esses usuários pra entender o comportamento deles e o impacto que têm nas discussões online.
Toxicidade no Twitter
A toxicidade no Twitter é um grande problema. A maior parte do conteúdo nocivo vem de um grupo bem pequeno de usuários. Entender esses "perfis tóxicos" é importante pra melhorar a plataforma. Estudos anteriores costumavam olhar pra eventos específicos ou tweets isolados, em vez de focar nos perfis dos usuários ao longo do tempo.
Visão Geral do Estudo
Esse estudo analisa 143.000 perfis do Twitter pra examinar os 1% que produzem o conteúdo mais tóxico. Usando um método que foca nos perfis dos usuários e na atividade deles ao longo do tempo, a gente quer dar uma olhada nos hábitos de tweet, tipos de conteúdo e comportamento geral deles.
Coleta de Dados
A pesquisa envolveu coletar dados de várias fontes, incluindo conjuntos de dados já estudados, e reunindo as linhas do tempo de tweets desses usuários. Os tweets foram analisados quanto à toxicidade usando uma ferramenta especializada que atribui notas com base na nocividade do conteúdo.
Metodologia
A gente olhou pra tweets de 2007 a 2021, analisando mais de 293 milhões de tweets. Avaliamos os padrões de tweet, frequência e a natureza do conteúdo produzido pelos 1% de perfis tóxicos. Isso permitiu ver como eles se comportam em comparação com usuários comuns do Twitter.
Principais Descobertas
Características dos Perfis
Os top 1% de usuários tóxicos mostraram consistência na natureza dos tweets. Eles produziam menos tweets, mas eram mais coerentes e focados. O conteúdo deles geralmente girava em torno de temas específicos, usando hashtags e URLs parecidas.
Comportamento dos Tweets
Os perfis tóxicos tuitavam de forma consistente, mas com menos tweets únicos em comparação com a base de usuários geral. Embora tivessem um número significativo de tweets no total, muitos eram repetitivos. Em média, perfis tóxicos compartilhavam mensagens mais curtas, frequentemente contendo linguagem inflamatória.
Análise de Conteúdo
A análise revelou que os perfis tóxicos compartilhavam principalmente conteúdo explícito ou agressivo. Os tweets deles pontuavam mais alto em métricas como "Inflamatório" e "Insulto", mostrando uma tendência a provocar reações negativas. Em contraste, perfis regulares do Twitter mostraram uma variedade maior de tópicos e foram, em geral, menos nocivos na comunicação.
Interação com URLs e Hashtags
Perfis tóxicos usaram menos URLs e hashtags únicas. As URLs que compartilharam geralmente apontavam pra categorias específicas, como pornografia e notícias. Comparado, os perfis normais interagiam mais com conteúdo diverso em muitos tópicos.
Implicações das Descobertas
Entender o comportamento desses perfis tóxicos pode ajudar a criar ferramentas de moderação melhores pro Twitter. Identificando essas contas prejudiciais, o Twitter pode agir pra reduzir a presença de conteúdo danoso na plataforma, tornando ela um espaço mais seguro pra discussões.
Conclusão
Esse estudo destaca a importância de examinar perfis de usuários ao longo do tempo ao analisar comportamentos tóxicos no Twitter. Ao mudar o foco de tweets individuais pra atividade geral dos usuários, ganhamos insights valiosos que podem informar estratégias futuras pra mitigar a toxicidade nas mídias sociais. As descobertas enfatizam a necessidade de monitoramento contínuo e medidas proativas pra combater a má conduta online.
Título: A longitudinal study of the top 1% toxic Twitter profiles
Resumo: Toxicity is endemic to online social networks including Twitter. It follows a Pareto like distribution where most of the toxicity is generated by a very small number of profiles and as such, analyzing and characterizing these toxic profiles is critical. Prior research has largely focused on sporadic, event centric toxic content to characterize toxicity on the platform. Instead, we approach the problem of characterizing toxic content from a profile centric point of view. We study 143K Twitter profiles and focus on the behavior of the top 1 percent producers of toxic content on Twitter, based on toxicity scores of their tweets availed by Perspective API. With a total of 293M tweets, spanning 16 years of activity, the longitudinal data allow us to reconstruct the timelines of all profiles involved. We use these timelines to gauge the behavior of the most toxic Twitter profiles compared to the rest of the Twitter population. We study the pattern of tweet posting from highly toxic accounts, based on the frequency and how prolific they are, the nature of hashtags and URLs, profile metadata, and Botometer scores. We find that the highly toxic profiles post coherent and well articulated content, their tweets keep to a narrow theme with lower diversity in hashtags, URLs, and domains, they are thematically similar to each other, and have a high likelihood of bot like behavior, likely to have progenitors with intentions to influence, based on high fake followers score. Our work contributes insight into the top 1 percent of toxic profiles on Twitter and establishes the profile centric approach to investigate toxicity on Twitter to be beneficial.
Autores: Hina Qayyum, Benjamin Zi Hao Zhao, Ian D. Wood, Muhammad Ikram, Mohamed Ali Kaafar, Nicolas Kourtellis
Última atualização: 2023-03-25 00:00:00
Idioma: English
Fonte URL: https://arxiv.org/abs/2303.14603
Fonte PDF: https://arxiv.org/pdf/2303.14603
Licença: https://creativecommons.org/licenses/by-sa/4.0/
Alterações: Este resumo foi elaborado com a assistência da AI e pode conter imprecisões. Para obter informações exactas, consulte os documentos originais ligados aqui.
Obrigado ao arxiv pela utilização da sua interoperabilidade de acesso aberto.