Simple Science

Ciência de ponta explicada de forma simples

# Informática# Computadores e sociedade

Entendendo a Desinformação Baseada em Mídia: Uma Análise Profunda

Este estudo mostra como a mídia alimenta a desinformação online.

― 6 min ler


Desmascarando aDesmascarando aDesinformação da Mídiaevoluindo com os avanços da mídia.As táticas de desinformação estão
Índice

A Desinformação virou um grande problema no nosso mundo online. Ela se refere a informações falsas ou enganosas que se espalham rapidinho, especialmente nas redes sociais. Esse estudo foca na desinformação baseada em mídia, que inclui Imagens, Vídeos e outras formas de mídia que dão suporte a alegações enganosas. Um novo conjunto de dados chamado AMMeBa foi criado pra ajudar a entender melhor essa questão. AMMeBa significa Desinformação Anotada, Baseada em Mídia, e contém uma grande coleção de exemplos de desinformação junto com suas características.

A Importância da Mídia na Desinformação

Conforme mais mídia, como imagens e vídeos, é compartilhada online, a desinformação muitas vezes usa essas formas pra criar impacto. De fato, cerca de 80% das alegações de desinformação que foram checadas incluem algum tipo de mídia. Essa mídia pode fazer as alegações falsas parecerem mais críveis e persuasivas, mudando a forma como as pessoas percebem a informação. O uso de imagens e vídeos aumenta o engajamento, tornando-os uma ferramenta poderosa pra quem espalha desinformação.

Visão Geral do Estudo

A pesquisa realizada ao longo de dois anos teve como objetivo examinar e categorizar a desinformação baseada em mídia. Usando avaliadores humanos, o estudo coletou informações sobre imagens usadas em alegações enganosas. Isso incluiu a análise dos tipos de imagens, as manipulações envolvidas e como esses elementos afetam as alegações de desinformação. Os resultados oferecem um vislumbre do cenário da desinformação na nossa era digital.

Coleta e Análise de Dados

O estudo analisou um total de 135.838 alegações checadas desde 1995, focando principalmente nas de 2016 em diante, quando o ClaimReview foi introduzido. As alegações foram avaliadas pela presença de mídia, sendo que a maioria estava ligada a imagens. Historicamente, as imagens dominaram a paisagem da desinformação, mas os vídeos têm se tornado cada vez mais comuns desde 2022.

O surgimento de ferramentas de IA generativa que criam mídia realista intensificou as preocupações sobre desinformação. Porém, conteúdos gerados por IA eram raros até o começo de 2023, quando se tornaram mais frequentes junto com manipulações tradicionais de imagens, que geralmente exigiam menos habilidade tecnológica.

Tipos de Mídia Usados na Desinformação

As imagens podem ser categorizadas em dois tipos principais: básicas e complexas. Imagens básicas se parecem com fotografias sem sobreposições significativas. Imagens complexas incluem elementos adicionais como texto, componentes gráficos ou várias imagens combinadas. Pesquisas mostraram que imagens complexas são mais prevalentes, já que elas geralmente aparecem quando o conteúdo é compartilhado novamente ou modificado pra maior engajamento.

Capturas de Tela e Seu Papel

Capturas de tela têm sua própria subcategoria dentro das imagens complexas. Elas geralmente capturam conteúdo de plataformas de redes sociais e podem incluir vários elementos da interface do usuário. Essas imagens podem ocultar o contexto original da informação, tornando-as um veículo poderoso para desinformação.

Técnicas de Manipulação na Desinformação

A desinformação pode ser manipulada de várias maneiras. Duas categorias amplas de manipulação são as manipulações de conteúdo e de contexto.

Manipulações de Conteúdo

Manipulações de conteúdo envolvem alterar a imagem real ou criar uma completamente nova pra apoiar uma alegação falsa. Métodos comuns incluem:

  • Manipulações Gerais: Edições simples usando ferramentas de edição de foto.
  • Texto Manipulado: Mudando ou adicionando texto que parece ser parte da imagem original.
  • Imagens Geradas por IA: Imagens criadas por ferramentas de IA generativa que podem parecer muito realistas.

Manipulações de Contexto

Manipulações de contexto focam em fornecer informações falsas sobre a própria imagem. Isso pode incluir alegações enganosas sobre quando ou onde a imagem foi tirada ou o que ela representa. Em muitos casos, a imagem permanece inalterada, mas a alegação que a acompanha é falsa.

O Papel do Texto nas Imagens de Desinformação

O texto frequentemente acompanha as imagens, esclarecendo ou ampliando a desinformação. Cerca de 80% das imagens contendo desinformação também apresentam texto. Esse texto pode reforçar a alegação falsa ou ser completamente enganoso.

Tendências na Desinformação ao Longo do Tempo

O estudo revelou tendências ao longo dos anos sobre como a mídia é usada na desinformação. À medida que plataformas como YouTube e TikTok ganharam popularidade, o uso de conteúdo em vídeo na desinformação aumentou significativamente. Embora as imagens continuem sendo uma parte crucial da desinformação, os vídeos começaram a assumir um papel mais central, indicando uma mudança na forma como a informação enganosa está sendo compartilhada.

O Impacto de Eventos Globais na Desinformação

Eventos globais significativos podem levar a um aumento no volume de desinformação. Por exemplo, a pandemia de COVID-19 viu um rápido aumento nas atividades de checagem de fatos, já que a desinformação relacionada à saúde surgiu amplamente durante aquele período. No entanto, enquanto a quantidade de alegações de desinformação pode aumentar com eventos, os tipos gerais de mídia usados nem sempre mudam significativamente em resposta.

Conclusão

A desinformação é uma questão multifacetada que continua a evoluir com a tecnologia e o uso da mídia. Entender como a mídia, especialmente imagens e vídeos, é empregada em alegações de desinformação é crítico pra combater sua disseminação. O conjunto de dados AMMeBa fornece insights valiosos sobre essas dinâmicas, destacando a necessidade de pesquisa contínua e estratégias eficazes pra mitigar o impacto da informação enganosa online. À medida que as táticas de desinformação se tornam mais sofisticadas, nossos esforços também precisam se aprimorar pra identificar e lidar com essas alegações prejudiciais.

Fonte original

Título: AMMeBa: A Large-Scale Survey and Dataset of Media-Based Misinformation In-The-Wild

Resumo: The prevalence and harms of online misinformation is a perennial concern for internet platforms, institutions and society at large. Over time, information shared online has become more media-heavy and misinformation has readily adapted to these new modalities. The rise of generative AI-based tools, which provide widely-accessible methods for synthesizing realistic audio, images, video and human-like text, have amplified these concerns. Despite intense public interest and significant press coverage, quantitative information on the prevalence and modality of media-based misinformation remains scarce. Here, we present the results of a two-year study using human raters to annotate online media-based misinformation, mostly focusing on images, based on claims assessed in a large sample of publicly-accessible fact checks with the ClaimReview markup. We present an image typology, designed to capture aspects of the image and manipulation relevant to the image's role in the misinformation claim. We visualize the distribution of these types over time. We show the rise of generative AI-based content in misinformation claims, and that its commonality is a relatively recent phenomenon, occurring significantly after heavy press coverage. We also show "simple" methods dominated historically, particularly context manipulations, and continued to hold a majority as of the end of data collection in November 2023. The dataset, Annotated Misinformation, Media-Based (AMMeBa), is publicly-available, and we hope that these data will serve as both a means of evaluating mitigation methods in a realistic setting and as a first-of-its-kind census of the types and modalities of online misinformation.

Autores: Nicholas Dufour, Arkanath Pathak, Pouya Samangouei, Nikki Hariri, Shashi Deshetti, Andrew Dudfield, Christopher Guess, Pablo Hernández Escayola, Bobby Tran, Mevan Babakar, Christoph Bregler

Última atualização: 2024-05-21 00:00:00

Idioma: English

Fonte URL: https://arxiv.org/abs/2405.11697

Fonte PDF: https://arxiv.org/pdf/2405.11697

Licença: https://creativecommons.org/licenses/by/4.0/

Alterações: Este resumo foi elaborado com a assistência da AI e pode conter imprecisões. Para obter informações exactas, consulte os documentos originais ligados aqui.

Obrigado ao arxiv pela utilização da sua interoperabilidade de acesso aberto.

Artigos semelhantes