O Impacto do Design do Sistema de Sinalização nas Percepções de Justiça dos Usuários

As plataformas de mídia social viraram essenciais para comunicação e interação na comunidade. Mas elas também enfrentam desafios com conteúdos inadequados, como discurso de ódio, desinformação e assédio. Para lidar com esses problemas, muitas plataformas implementaram sistemas de denúncia que permitem que os usuários relatem conteúdos que consideram preocupantes. Usando esses sistemas, os usuários conseguem influenciar diretamente as decisões de moderação e ajudar a manter os padrões da comunidade.

Esse trabalho discute como o design dos sistemas de denúncia impacta a percepção dos usuários sobre a justiça no processo de moderação de conteúdo. Realizamos um grande experimento de pesquisa para explorar como diferentes elementos de design afetam a experiência dos usuários com as denúncias. Nosso objetivo é fornecer insights que ajudem as plataformas a melhorar seus mecanismos de denúncia e fortalecer a confiança entre usuários e as plataformas.

#Mecanismos de Denúncia nas Redes Sociais

Denunciar é um processo onde os usuários podem relatar publicações ou contas que acreditam estar violando as regras da plataforma. Esse mecanismo permite que os usuários participem dos esforços de moderação de conteúdo. Uma vez que uma denúncia é feita, os moderadores revisam o conteúdo reportado e decidem sobre a ação apropriada. As ações podem incluir remover o conteúdo, reduzir sua visibilidade ou impor outras sanções.

A denúncia é crucial para as plataformas de mídia social, pois ajuda a gerenciar o enorme volume de conteúdo postado todos os dias. No entanto, a eficácia desses sistemas depende muito de como eles são projetados e como os usuários os percebem. A motivação dos usuários para denunciar conteúdo e suas experiências durante o processo de denúncia podem moldar significativamente sua visão sobre a justiça e a responsabilidade da plataforma.

#Visão Geral do Estudo

Nosso estudo teve como objetivo avaliar como várias escolhas de design dos sistemas de denúncia influenciam a percepção dos usuários sobre justiça, especialmente em termos de consistência, transparência e voz. Fizemos uma pesquisa online com um grupo diversificado de participantes. Atribuindo aleatoriamente os usuários a diferentes cenários de denúncia, avaliamos como componentes como esquemas de classificação, diretrizes de postagem, Caixas de Texto e tipos de moderadores afetam as percepções de justiça.

#Componentes Chave dos Mecanismos de Denúncia

Focamos em quatro componentes principais na nossa análise:

1. Esquemas de Classificação: São categorias que definem diferentes tipos de violações de regras. Os usuários escolhem a categoria adequada ao denunciar uma postagem.

2. Diretrizes de Postagem: Elas fornecem informações sobre o que constitui conteúdo inadequado. Diretrizes claras podem ajudar os usuários a tomar decisões informadas ao denunciar.

3. Caixas de Texto: Essas permitem que os usuários forneçam explicações adicionais para suas denúncias. Um espaço aberto permite que os usuários expressem suas preocupações com suas próprias palavras.

4. Tipo de Moderador: Refere-se a se a revisão da denúncia é feita por um moderador humano ou por um sistema automatizado. Os usuários podem perceber esses aspectos de forma diferente, dependendo da identidade do moderador.

#Percepções de Justiça dos Usuários

Para avaliar a percepção dos usuários sobre justiça, focamos em três atributos principais:

• Consistência: Refere-se a como as decisões de moderação são aplicadas de forma uniforme em diferentes casos. Os usuários esperam que todos os relatos sejam tratados com os mesmos padrões, independentemente de quem os submeteu.

• Transparência: Envolve fornecer informações claras sobre como as decisões de moderação são tomadas. Os usuários querem entender as regras e os processos por trás das denúncias.

• Voz: Voz reflete o quão bem os usuários podem expressar suas opiniões e fornecer feedback durante o processo de denúncia. Um mecanismo que permite que os usuários compartilhem seus pensamentos aumenta a sensação de envolvimento e justiça.

#Metodologia

Realizamos uma pesquisa com mais de 2.900 participantes que foram convidados a denunciar postagens inadequadas usando diversos cenários de denúncia. Os participantes avaliaram suas experiências com base nos atributos de justiça mencionados, após serem designados a um dos diferentes designs de denúncia.

#Principais Descobertas

#O Papel dos Esquemas de Classificação

Os participantes que encontraram esquemas de classificação simples perceberam um nível mais alto de consistência em comparação com aqueles que tinham opções mais detalhadas. Essa descoberta sugere que os usuários podem se sentir sobrecarregados com muitas opções, levando à confusão sobre como categorizar suas preocupações.

Em termos de transparência, o tipo de esquema de classificação usado não impactou significativamente as percepções dos usuários. No entanto, foi observado que os usuários apreciavam ter algumas categorias disponíveis, pois isso lhes dava uma compreensão mais clara do processo de denúncia.

As percepções de voz melhoraram quando os participantes puderam escolher entre um esquema de classificação simples, indicando que menos opções podem dar aos usuários uma melhor sensação de autonomia.

#Importância das Diretrizes de Postagem

Nossas descobertas destacaram que diretrizes de postagem claras aumentaram a percepção de transparência dos usuários. Os participantes que tiveram acesso a diretrizes de postagem relataram sentir-se mais informados sobre os processos de moderação. No entanto, ter diretrizes de postagem não afetou significativamente a voz dos usuários no processo de denúncia.

#Impacto das Caixas de Texto

A inclusão de uma caixa de texto para os usuários expressarem suas razões para a denúncia não impactou negativamente as percepções de consistência ou transparência. Em vez disso, melhorou significativamente a voz percebida pelos usuários, permitindo que os participantes articulassem suas objeções de maneira mais completa. Os usuários expressaram o desejo por esse recurso, pois isso lhes permitiu fornecer contexto que poderia ajudar os moderadores a entender melhor o raciocínio por trás de suas denúncias.

#Influência do Tipo de Moderador

Curiosamente, saber se um moderador humano ou automatizado revisaria uma denúncia não alterou significativamente as percepções dos usuários sobre consistência, transparência ou voz. Embora alguns participantes tivessem preferências por humanos, as diferenças gerais foram pequenas. Isso sugere que os usuários podem priorizar os aspectos estruturais do processo de denúncia em vez das identidades específicas de quem está lidando com as revisões.

#Recomendações para Melhoria

Baseado em nossas descobertas, propomos várias recomendações para aprimorar os sistemas de denúncia:

1. Simplificar Esquemas de Classificação: As plataformas deveriam considerar usar sistemas de classificação simples que permitam aos usuários escolher a categoria mais relevante sem sobrecarregá-los com opções.

2. Integrar Diretrizes de Postagem Claras: Diretrizes claras devem ser fornecidas, possivelmente com exemplos, para ajudar os usuários a entender as regras sobre conteúdo inadequado.

3. Incorporar Caixas de Texto Abertas: Permitir que os usuários expressem suas preocupações específicas através de caixas de texto pode aumentar sua sensação de voz e envolvimento no processo de moderação.

4. Garantir Transparência Sobre os Processos de Revisão: As plataformas devem comunicar como as denúncias são tratadas e os critérios utilizados na moderação para fomentar a confiança.

5. Considerar Modelos de Moderação Híbridos: Incluir tanto revisores humanos quanto automatizados pode ajudar a equilibrar eficiência com a compreensão sutil que os moderadores humanos trazem.

#Conclusão

Os sistemas de denúncia são essenciais para manter os padrões da comunidade nas plataformas de mídia social. O design desses sistemas influencia significativamente a percepção dos usuários sobre justiça. Ao focar nas necessidades e percepções dos usuários, as plataformas podem criar mecanismos de denúncia mais robustos que melhorem a transparência, consistência e voz do usuário no processo de moderação.

Futuras pesquisas devem continuar a explorar como diferentes elementos de design podem ser otimizados para melhorar as experiências dos usuários. Enfatizar as perspectivas dos usuários será fundamental para enfrentar os desafios contínuos da moderação de conteúdo em um cenário online em constante evolução.