Simple Science

Hochmoderne Wissenschaft einfach erklärt

# Computerwissenschaften# Soziale und Informationsnetzwerke# Computer und Gesellschaft

Untersuchung von toxischem Verhalten auf Twitter

Eine Studie analysiert toxische Nutzer auf Twitter, um Moderationsmassnahmen zu unterstützen.

― 3 min Lesedauer


Toxische Twitter-NutzerToxische Twitter-Nutzerenttarntvon den schlimmsten toxischen Typen.Studie zeigt schädliche Gewohnheiten
Inhaltsverzeichnis

Soziale Medien, besonders Twitter, haben mit toxischem Verhalten zu kämpfen. Das Problem ist verbreitet, weil eine kleine Gruppe von Nutzern einen grossen Teil des schädlichen Inhalts produziert. Es ist wichtig, diese Nutzer zu untersuchen, um ihr Verhalten und den Einfluss auf Online-Diskussionen zu verstehen.

Toxizität auf Twitter

Toxizität auf Twitter ist ein grosses Problem. Der Grossteil des schädlichen Inhalts kommt von einer winzigen Gruppe von Nutzern. Zu verstehen, wer diese "toxischen Profile" sind, ist wichtig, um die Plattform zu verbessern. Frühere Studien haben oft bestimmte Ereignisse oder einzelne Tweets betrachtet, anstatt sich über längere Zeiträume mit Nutzerprofilen zu beschäftigen.

Studienübersicht

Diese Studie untersucht 143.000 Twitter-Profile, um die Top 1% der Nutzer zu analysieren, die den meisten toxischen Inhalt produzieren. Mithilfe einer Methode, die sich auf Nutzerprofile und deren Aktivität im Laufe der Zeit konzentriert, wollen wir Einblicke in ihre Tweet-Gewohnheiten, Inhaltsarten und ihr allgemeines Verhalten geben.

Datensammlung

Bei der Forschung wurden Daten aus verschiedenen Quellen gesammelt, einschliesslich zuvor untersuchter Datensätze, und die Tweet-Zeitlinien dieser Nutzer erfasst. Die Tweets wurden dann auf ihre Toxizität mit einem speziellen Tool analysiert, das Punktzahlen basierend auf der Schädlichkeit des Inhalts vergibt.

Methodik

Wir haben Tweets von 2007 bis 2021 untersucht und über 293 Millionen Tweets analysiert. Wir haben die Tweet-Muster, Frequenz und die Art des Inhalts der top 1% toxischen Profile bewertet. So konnten wir sehen, wie sie sich im Vergleich zu normalen Twitter-Nutzern verhalten.

Wichtige Ergebnisse

Profilmerkmale

Die top 1% der toxischen Nutzer waren konstant in der Art ihrer Tweets. Sie produzierten weniger, aber kohärentere und fokussiertere Tweets. Ihr Inhalt drehte sich oft um bestimmte Themen und verwendete ähnliche Hashtags und URLs.

Tweet-Verhalten

Toxische Profile tweeteten konstant, aber mit weniger einzigartigen Tweets im Vergleich zur allgemeinen Nutzerbasis. Während sie eine erhebliche Anzahl an Tweets hatten, waren viele repetitiv. Im Durchschnitt teilten toxische Profile kürzere Nachrichten, die oft provokante Sprache enthielten.

Inhaltsanalyse

Die Analyse zeigte, dass toxische Profile hauptsächlich expliziten oder aggressiven Inhalt teilten. Ihre Tweets erzielten höhere Werte bei Metriken wie "Inflammatorisch" und "Beleidigung" und zeigten eine Tendenz, negative Reaktionen hervorzurufen. Im Gegensatz dazu zeigten normale Twitter-Profile eine grössere Themenvielfalt und waren in ihrer Kommunikation generell weniger schädlich.

Engagement mit URLs und Hashtags

Toxische Profile verwendeten weniger einzigartige URLs und Hashtags. Die URLs, die sie teilten, wiesen oft auf spezifische Kategorien hin, wie Pornografie und Nachrichten. Im Vergleich dazu setzten sich normale Profile stärker mit vielfältigem Inhalt über viele Themen auseinander.

Auswirkungen der Ergebnisse

Das Verständnis des Verhaltens dieser toxischen Profile kann helfen, bessere Moderationstools für Twitter zu entwickeln. Indem schädliche Konten identifiziert werden, kann Twitter Massnahmen ergreifen, um die Präsenz von schädlichem Inhalt auf der Plattform zu reduzieren und sie zu einem sichereren Ort für Diskussionen zu machen.

Fazit

Diese Studie hebt die Bedeutung hervor, Nutzerprofile über längere Zeiträume zu untersuchen, wenn es darum geht, toxisches Verhalten auf Twitter zu analysieren. Indem der Fokus von einzelnen Tweets auf die gesamte Aktivität der Nutzer verlagert wird, gewinnen wir wertvolle Einblicke, die zukünftige Strategien zur Bekämpfung von Toxizität in sozialen Medien informieren können. Die Ergebnisse betonen die Notwendigkeit einer kontinuierlichen Überwachung und proaktiver Massnahmen zur Bekämpfung von Online-Missbrauch.

Originalquelle

Titel: A longitudinal study of the top 1% toxic Twitter profiles

Zusammenfassung: Toxicity is endemic to online social networks including Twitter. It follows a Pareto like distribution where most of the toxicity is generated by a very small number of profiles and as such, analyzing and characterizing these toxic profiles is critical. Prior research has largely focused on sporadic, event centric toxic content to characterize toxicity on the platform. Instead, we approach the problem of characterizing toxic content from a profile centric point of view. We study 143K Twitter profiles and focus on the behavior of the top 1 percent producers of toxic content on Twitter, based on toxicity scores of their tweets availed by Perspective API. With a total of 293M tweets, spanning 16 years of activity, the longitudinal data allow us to reconstruct the timelines of all profiles involved. We use these timelines to gauge the behavior of the most toxic Twitter profiles compared to the rest of the Twitter population. We study the pattern of tweet posting from highly toxic accounts, based on the frequency and how prolific they are, the nature of hashtags and URLs, profile metadata, and Botometer scores. We find that the highly toxic profiles post coherent and well articulated content, their tweets keep to a narrow theme with lower diversity in hashtags, URLs, and domains, they are thematically similar to each other, and have a high likelihood of bot like behavior, likely to have progenitors with intentions to influence, based on high fake followers score. Our work contributes insight into the top 1 percent of toxic profiles on Twitter and establishes the profile centric approach to investigate toxicity on Twitter to be beneficial.

Autoren: Hina Qayyum, Benjamin Zi Hao Zhao, Ian D. Wood, Muhammad Ikram, Mohamed Ali Kaafar, Nicolas Kourtellis

Letzte Aktualisierung: 2023-03-25 00:00:00

Sprache: English

Quell-URL: https://arxiv.org/abs/2303.14603

Quell-PDF: https://arxiv.org/pdf/2303.14603

Lizenz: https://creativecommons.org/licenses/by-sa/4.0/

Änderungen: Diese Zusammenfassung wurde mit Unterstützung von AI erstellt und kann Ungenauigkeiten enthalten. Genaue Informationen entnehmen Sie bitte den hier verlinkten Originaldokumenten.

Vielen Dank an arxiv für die Nutzung seiner Open-Access-Interoperabilität.

Mehr von den Autoren

Ähnliche Artikel