Melhorando a Detecção de Discurso de Ódio em Multimídia

Com o aumento do uso da internet, tá ficando mais complicado identificar discursos de ódio em conteúdos de áudio e vídeo. Apenas transformar vídeo ou áudio em texto muitas vezes perde o contexto porque a galera pode usar palavras de ódio de forma brincalhona ou expressar diferentes emoções por meio do tom e das ações. A maioria dos métodos de detecção de discurso de ódio se concentra só em um tipo de conteúdo-como texto apenas. Essa pesquisa sugere um método melhor misturando diferentes tipos de dados, como imagens, áudio e texto, pra melhorar a detecção do discurso de ódio em vídeos.

#A Importância de Combater o Discurso de Ódio

No mundo digital de hoje, o discurso de ódio não tá só nos comentários ou posts escritos, mas também em mensagens de voz e vídeos. Esse tipo de conteúdo prejudicial pode levar a problemas sérios, incluindo cyberbullying e atos violentos. Relatórios mostram que muitos crimes de ódio começam online e têm consequências reais pra as pessoas. Esses dados geralmente estão relacionados a expressões faciais e de voz, então é crucial considerar todos esses aspectos ao detectar discurso de ódio.

#Métodos Atuais e Suas Limitações

A maioria dos estudos atuais depende bastante de dados textuais pra identificar discurso de ódio. Porém, esses métodos podem ser inadequados porque não levam em conta o tom emocional da voz ou expressões faciais. Essa pesquisa visa melhorar a precisão considerando áudio, vídeo e texto juntos na detecção de discurso de ódio.

#Abordagem da Pesquisa

A abordagem dessa pesquisa envolve vários passos principais:

1. Coleta de Dados: Vídeos foram coletados de várias fontes, incluindo filmes e séries, garantindo que tivesse exemplos tanto de discurso de ódio quanto de discurso não-ódio.

2. Preparação dos Dados: Os vídeos foram processados pra extrair imagens, áudio e conteúdo textual. Cada tipo de conteúdo foi rotulado como ódio ou não-ódio.

3. Extração de Características: Características relevantes das imagens, clipes de áudio e texto foram identificadas e extraídas. Várias técnicas foram usadas pra selecionar as características mais significativas.

4. Desenvolvimento do Modelo: Modelos separados foram criados pra imagens, áudio e texto. Os resultados desses modelos foram então combinados pra fazer uma determinação final sobre se o conteúdo continha discurso de ódio.

#Fontes e Tipos de Dados

Nesse estudo, um total de 1.051 vídeos foi preparado, categorizado em discursos de ódio e não-ódio. O discurso de ódio estava associado a emoções negativas como raiva e medo, enquanto o não-ódio estava ligado a sentimentos positivos como alegria e diversão. Os dados dos vídeos foram extraídos utilizando ferramentas projetadas pra processar esse tipo de conteúdo, e os resultados foram rotulados apropriadamente.

#Processamento de Dados

#Dados de Imagem

Imagens foram extraídas dos vídeos a uma taxa de 30 quadros por segundo, e cada imagem foi rotulada de acordo com seu conteúdo. Essas imagens foram redimensionadas pra consistência na análise.

#Dados de Áudio

O áudio dos vídeos foi processado pra remover ruídos de fundo, facilitando a identificação do discurso de ódio. O áudio foi dividido em segmentos menores pra análise eficaz, o que permitiu uma avaliação mais precisa dos dados sonoros.

#Dados de Texto

Os dados de áudio foram convertidos em texto usando tecnologia de reconhecimento de fala. Após a conversão, o texto foi limpo removendo elementos desnecessários como caracteres especiais e palavras de parada, o que ajudou a focar nas mensagens principais.

#Técnicas de Extração de Características

#Para Imagens

As imagens foram convertidas em matrizes pra processamento. Características essenciais foram extraídas pra destacar diferenças entre conteúdo de ódio e não-ódio.

#Para Áudio

Os sinais de áudio foram analisados tanto no domínio do tempo quanto na frequência. Várias características foram calculadas, como níveis de energia e taxas de mudanças no som, pra entender as características subjacentes que poderiam indicar discurso de ódio.

#Para Texto

Os dados textuais foram transformados em vetores de comprimento fixo usando métodos que contavam ocorrências de palavras e avaliavam a importância de certas palavras entre os documentos.

#Seleção de Características Relevantes

Depois de extrair as características, as mais importantes foram selecionadas usando técnicas específicas projetadas pra seleção de características. Isso garantiu que apenas as informações mais úteis fossem utilizadas nos modelos finais.

#Testes e Resultados

Vários modelos de aprendizado de máquina foram usados pra avaliar o desempenho do sistema de detecção de discurso de ódio. Entre eles estavam:

• Support Vector Machine (SVM): Esse modelo identificou os melhores limites de decisão pra separar conteúdo de ódio e não-ódio.
• Random Forest: Essa técnica construiu várias árvores de decisão pra alcançar um consenso, ajudando a minimizar erros.
• Regressão Logística: Esse modelo estatístico avaliou o impacto de vários fatores na probabilidade de o conteúdo ser classificado como ódio ou não-ódio.
• AdaBoost: Essa abordagem focou em melhorar o desempenho de modelos mais fracos ajustando os pesos dos dados com base em classificações erradas anteriores.
• Naive Bayes: Esse modelo trabalhou com a suposição de que as características são independentes e classificou com base em probabilidades.

#Abordagem Multi-Modal

Depois de avaliar cada tipo de conteúdo separadamente, um método de votação majoritária foi usado pra combinar os resultados. Se dois ou mais dos modelos separados indicavam discurso de ódio, a decisão final classificaria o conteúdo como discurso de ódio.

#Análise dos Resultados

A abordagem multi-modal trouxe uma precisão melhorada em comparação a analisar apenas um tipo de dado. Entre os modelos testados, AdaBoost e Naive Bayes tiveram o melhor desempenho, alcançando mais de 75% de precisão. Outros modelos também mostraram desempenho competitivo, mas a abordagem combinada destacou a força de integrar diferentes tipos de conteúdo pra resultados melhores.

#Conclusão

O discurso de ódio é uma questão significativa que precisa ser enfrentada de forma eficaz. Ao analisar áudio, vídeo e texto juntos, essa pesquisa avançou na detecção de conteúdo odioso de forma mais precisa. O uso de fontes de dados diversas e a combinação dos resultados de diferentes modelos mostraram que é promissor pra reduzir a disseminação de discurso prejudicial online. Esse trabalho contribui para o esforço contínuo de criar espaços online mais seguros e promover uma comunicação respeitosa.