Verstehen von medienbasierten Fehlinformationen: Ein tieferer Einblick
Diese Studie zeigt, wie Medien Falschinformationen im Internet anheizen.
― 5 min Lesedauer
Inhaltsverzeichnis
- Die Bedeutung von Medien bei Fehlinformation
- Studienübersicht
- Datensammlung und Analyse
- Arten von Medien, die in Fehlinformationen verwendet werden
- Screenshots und ihre Rolle
- Manipulationstechniken in Fehlinformation
- Inhaltsmanipulationen
- Kontextmanipulationen
- Die Rolle von Text in Fehlinformationsbildern
- Trends in Fehlinformation über die Zeit
- Der Einfluss globaler Ereignisse auf Fehlinformation
- Fazit
- Originalquelle
- Referenz Links
Fehlinformation ist ein grosses Problem in unserer Online-Welt geworden. Damit sind falsche oder irreführende Informationen gemeint, die sich besonders schnell verbreiten, vor allem auf sozialen Medien. Diese Studie konzentriert sich auf medienbasierte Fehlinformationen, die Bilder, Videos und andere Medienformen umfasst, die irreführende Behauptungen unterstützen. Ein neues Datenset namens AMMeBa wurde erstellt, um dieses Problem besser zu verstehen. AMMeBa steht für Annotierte Fehlinformation, Medienbasiert, und es enthält eine grosse Sammlung von Beispielen für Fehlinformationen sowie deren Eigenschaften.
Die Bedeutung von Medien bei Fehlinformation
Da immer mehr Medien, wie Bilder und Videos, online geteilt werden, nutzen Fehlinformationen oft diese Formate, um Wirkung zu erzielen. Tatsächlich enthalten etwa 80% der Fehlinformationsbehauptungen, die überprüft wurden, irgendeine Art von Medien. Diese Medien können dazu führen, dass die falschen Behauptungen glaubwürdiger und überzeugender erscheinen, was die Wahrnehmung der Informationen verändert. Die Verwendung von Bildern und Videos erhöht das Engagement und macht sie zu einem mächtigen Werkzeug für diejenigen, die Fehlinformationen verbreiten.
Studienübersicht
Die Forschung, die über zwei Jahre durchgeführt wurde, hatte das Ziel, medienbasierte Fehlinformationen zu untersuchen und zu kategorisieren. Mithilfe von menschlichen Bewertern sammelte die Studie Informationen über Bilder, die in irreführenden Behauptungen verwendet wurden. Dazu gehörte die Untersuchung der Bildarten, der Manipulationen und wie diese Elemente die Fehlinformationsbehauptungen beeinflussen. Die Ergebnisse geben einen Einblick in die Landschaft der Fehlinformationen in unserem digitalen Zeitalter.
Datensammlung und Analyse
Die Studie analysierte insgesamt 135.838 überprüfte Behauptungen, die bis ins Jahr 1995 zurückreichen, wobei der Fokus hauptsächlich auf denen ab 2016 lag, als ClaimReview eingeführt wurde. Die Behauptungen wurden auf das Vorhandensein von Medien überprüft, wobei die Mehrheit mit Bildern verbunden war. Historisch gesehen dominierten Bilder die Medienlandschaft der Fehlinformation, aber seit 2022 sind Videos zunehmend verbreitet geworden.
Der Aufstieg generativer KI-Tools, die realistische Medien erstellen, hat die Bedenken hinsichtlich Fehlinformationen verstärkt. Allerdings war KI-generierter Inhalt bis Anfang 2023 selten, als er schnell häufiger auftauchte, zusammen mit traditionellen Bildmanipulationen, die oft weniger technisches Können erforderten.
Arten von Medien, die in Fehlinformationen verwendet werden
Bilder können in zwei Haupttypen kategorisiert werden: einfache und komplexe. Einfache Bilder ähneln Fotografien ohne bedeutende Überlagerungen. Komplexe Bilder beinhalten zusätzliche Elemente wie Text, grafische Komponenten oder mehrere kombinierte Bilder. Die Forschung zeigte, dass komplexe Bilder häufiger vorkommen, da sie oft entstehen, wenn Inhalte geteilt oder für mehr Engagement modifiziert werden.
Screenshots und ihre Rolle
Screenshots haben eine eigene Unterkategorie innerhalb der komplexen Bilder. Sie erfassen oft Inhalte von sozialen Medien und können verschiedene Benutzeroberflächenelemente enthalten. Diese Bilder können den ursprünglichen Kontext der Informationen verschleiern, wodurch sie ein mächtiges Vehikel für Fehlinformationen werden.
Manipulationstechniken in Fehlinformation
Fehlinformation kann auf verschiedene Weise manipuliert werden. Zwei breite Kategorien der Manipulation sind Inhalts- und Kontextmanipulationen.
Inhaltsmanipulationen
Inhaltsmanipulationen beinhalten das Verändern des tatsächlichen Bildes oder das Erstellen eines völlig neuen, um eine falsche Behauptung zu unterstützen. Zu den häufigsten Methoden gehören:
- Allgemeine Manipulationen: Einfache Bearbeitungen mit Fotobearbeitungswerkzeugen.
- Manipulierter Text: Ändern oder Hinzufügen von Text, der Teil des ursprünglichen Bildes zu sein scheint.
- KI-generierte Bilder: Bilder, die von generativen KI-Tools erstellt wurden und sehr realistisch erscheinen können.
Kontextmanipulationen
Kontextmanipulationen konzentrieren sich darauf, falsche Informationen über das Bild selbst bereitzustellen. Dazu können irreführende Behauptungen darüber gehören, wann oder wo das Bild aufgenommen wurde oder was es darstellt. In vielen Fällen bleibt das Bild unverändert, aber die begleitende Behauptung ist falsch.
Die Rolle von Text in Fehlinformationsbildern
Text begleitet oft Bilder und klärt oder verstärkt die Fehlinformation. Etwa 80% der Bilder, die Fehlinformationen enthalten, haben auch Text. Dieser Text kann entweder die falsche Behauptung verstärken oder völlig irreführend sein.
Trends in Fehlinformation über die Zeit
Die Studie zeigte Trends im Laufe der Jahre, wie Medien in Fehlinformationen verwendet werden. Da Plattformen wie YouTube und TikTok an Beliebtheit gewonnen haben, ist die Verwendung von Videoinhalten in Fehlinformationen erheblich gestiegen. Während Bilder nach wie vor ein wichtiger Teil von Fehlinformationen sind, haben Videos begonnen, eine zentralere Rolle einzunehmen, was auf einen Wandel in der Art und Weise hinweist, wie irreführende Informationen geteilt werden.
Der Einfluss globaler Ereignisse auf Fehlinformation
Bedeutende globale Ereignisse können zu einem Anstieg von Fehlinformationen führen. Zum Beispiel erlebte die COVID-19-Pandemie einen raschen Anstieg von Fact-Checking-Aktivitäten, da während dieser Zeit weit verbreitete Fehlinformationen zum Thema Gesundheit aufkamen. Allerdings ändert sich die Art der verwendeten Medien nicht immer signifikant als Reaktion auf solche Ereignisse, obwohl die Menge an Fehlinformationsbehauptungen mit Ereignissen ansteigen kann.
Fazit
Fehlinformation ist ein facettenreiches Problem, das weiterhin mit Technologie und Mediennutzung evolviert. Zu verstehen, wie Medien, insbesondere Bilder und Videos, in Fehlinformationsbehauptungen eingesetzt werden, ist entscheidend, um deren Verbreitung zu bekämpfen. Das AMMeBa-Datenset liefert wertvolle Einblicke in diese Dynamiken und hebt die Notwendigkeit für fortlaufende Forschung und effektive Strategien zur Minderung der Auswirkungen von irreführenden Informationen online hervor. Während die Taktiken der Fehlinformation sophistizierter werden, müssen auch unsere Bemühungen, diese schädlichen Behauptungen zu identifizieren und anzugehen, sich weiterentwickeln.
Titel: AMMeBa: A Large-Scale Survey and Dataset of Media-Based Misinformation In-The-Wild
Zusammenfassung: The prevalence and harms of online misinformation is a perennial concern for internet platforms, institutions and society at large. Over time, information shared online has become more media-heavy and misinformation has readily adapted to these new modalities. The rise of generative AI-based tools, which provide widely-accessible methods for synthesizing realistic audio, images, video and human-like text, have amplified these concerns. Despite intense public interest and significant press coverage, quantitative information on the prevalence and modality of media-based misinformation remains scarce. Here, we present the results of a two-year study using human raters to annotate online media-based misinformation, mostly focusing on images, based on claims assessed in a large sample of publicly-accessible fact checks with the ClaimReview markup. We present an image typology, designed to capture aspects of the image and manipulation relevant to the image's role in the misinformation claim. We visualize the distribution of these types over time. We show the rise of generative AI-based content in misinformation claims, and that its commonality is a relatively recent phenomenon, occurring significantly after heavy press coverage. We also show "simple" methods dominated historically, particularly context manipulations, and continued to hold a majority as of the end of data collection in November 2023. The dataset, Annotated Misinformation, Media-Based (AMMeBa), is publicly-available, and we hope that these data will serve as both a means of evaluating mitigation methods in a realistic setting and as a first-of-its-kind census of the types and modalities of online misinformation.
Autoren: Nicholas Dufour, Arkanath Pathak, Pouya Samangouei, Nikki Hariri, Shashi Deshetti, Andrew Dudfield, Christopher Guess, Pablo Hernández Escayola, Bobby Tran, Mevan Babakar, Christoph Bregler
Letzte Aktualisierung: 2024-05-21 00:00:00
Sprache: English
Quell-URL: https://arxiv.org/abs/2405.11697
Quell-PDF: https://arxiv.org/pdf/2405.11697
Lizenz: https://creativecommons.org/licenses/by/4.0/
Änderungen: Diese Zusammenfassung wurde mit Unterstützung von AI erstellt und kann Ungenauigkeiten enthalten. Genaue Informationen entnehmen Sie bitte den hier verlinkten Originaldokumenten.
Vielen Dank an arxiv für die Nutzung seiner Open-Access-Interoperabilität.
Referenz Links
- https://www.reddit.com/
- https://www.youtube.com/
- https://www.tiktok.com/en/
- https://www.claimreviewproject.com/
- https://www.kaggle.com/datasets/googleai/in-the-wild-misinformation-media/
- https://discord.com/
- https://www.midjourney.com/home
- https://stability.ai/
- https://twitter.com/
- https://www.reddit.com/r/photoshopbattles/
- https://www.facebook.com/