Traiter la détection de discours de haine dans différentes langues

Le Discours de haine sur les réseaux sociaux est un problème qui prend de l'ampleur. Ça inclut des commentaires nuisibles qui s'attaquent aux gens en fonction de leur race, religion, genre et d'autres traits personnels. Ça peut blesser les communautés en ligne et mener à de la violence sérieuse. C'est pour ça qu'il est super important de savoir comment détecter et gérer le discours de haine.

Ces dernières années, des chercheurs ont bossé sur des moyens de trouver automatiquement le discours de haine en ligne. La plupart des efforts ont été concentrés sur l'anglais et les cultures des pays occidentaux. Mais en fait, il y a plein de contenus haineux dans d'autres langues, surtout celles qui ont moins de ressources. Ça complique le développement d'outils, vu qu'il y a souvent peu de données pour entraîner des modèles dans ces langues.

Pour régler ce souci, on propose une méthode basée sur le méta-apprentissage, qui permet d’entraîner des modèles d’une manière qui les aide à apprendre rapidement, même avec peu de données. Cette méthode permet de détecter le discours de haine dans différentes langues sans avoir besoin de grandes quantités de données d'entraînement spécifiques à ces langues.

#Motivation

Le discours de haine est devenu un véritable problème à l’échelle mondiale. Ça peut détruire la structure des réseaux sociaux et mener à de la violence dans la vraie vie. Les chercheurs et les entreprises tech veulent donc trouver des solutions efficaces pour détecter le discours de haine tôt et automatiquement.

Beaucoup de méthodes actuelles reposent sur des modèles de langage larges qui s'en sortent bien dans diverses tâches liées aux langues. Ces modèles ont également montré de bonnes promesses pour détecter le discours de haine. Cependant, ils se concentrent principalement sur l'anglais et ne sont pas aussi efficaces pour d'autres langues, surtout celles avec moins de ressources. Dans ce cas, il est difficile d'entraîner des classificateurs supervisés à cause du manque d'exemples suffisants.

Pour les langues qui n'ont pas beaucoup de données, il est essentiel de développer des modèles capables de s'adapter rapidement avec un nombre limité d'échantillons d’entraînement. Cela peut impliquer d'utiliser des données d'une langue avec plus de ressources pour aider à comprendre et à classer le discours de haine dans une langue moins bien pourvue. Quelques études existantes ont essayé cette méthode en ajustant des modèles multilingues.

Malheureusement, il manque encore de recherches sur la détection du discours de haine multilingue. Peu de méthodes existent pour appliquer efficacement ces modèles à la tâche difficile d'identifier le discours de haine dans différentes langues. Les méthodes existantes rencontrent souvent des difficultés lorsqu'elles changent de domaines ou de langues, car les hypothèses sous-jacentes peuvent ne pas être valables dans différents contextes.

#Objectifs de recherche

Cet article vise à relever les défis de la détection du discours de haine dans plusieurs langues tout en surmontant les limites des approches actuelles. On introduit un cadre qui permet une détection efficace du discours de haine dans des langues avec peu de données. Notre méthode se concentre sur la maximisation des ressources disponibles en intégrant des données de langues apparentées, améliorant ainsi la performance globale.

Pour mettre ça en pratique, on utilise une stratégie de méta-apprentissage, qui entraîne des modèles à s'adapter rapidement à de nouvelles tâches, comme détecter le discours de haine dans une autre langue. En particulier, on utilise une technique appelée méta-apprentissage agnostique au modèle (MAML), conçue pour aider les modèles à apprendre comment apprendre efficacement.

En utilisant ce cadre, notre approche nous permet de construire des classificateurs capables de s’adapter rapidement à de nouvelles langues, même si peu ou pas de données sont disponibles. On se concentre aussi sur l'amélioration de la capacité de notre modèle à généraliser à travers différents domaines en utilisant une fonction de perte sur mesure. Ça rend notre système plus robuste et efficace, même en gérant le discours de haine dans des langues diverses.

#Méthode proposée

Notre méthode consiste en un cadre de méta-apprentissage qui aide à détecter le discours de haine dans des langues à faibles ressources. Les aspects innovants de notre approche tournent autour de l'utilisation de données provenant de Langues auxiliaires pour améliorer les capacités de détection dans la Langue cible, qui peut ne pas avoir beaucoup de données d'entraînement.

#Étape 1 : Données d'entraînement

Pour entraîner notre modèle, on doit rassembler des données provenant de plusieurs langues. On aura une langue source (avec des données en abondance), une langue auxiliaire (pour fournir un contexte supplémentaire), et une langue cible (où la détection du discours de haine est le but principal). Par exemple, on pourrait entraîner notre modèle en utilisant des données de l'anglais (source) et de l'espagnol (auxiliaire) pour aider à détecter le discours de haine en hindi (cible).

Cette approche multilingue nous permet de créer un pool d'échantillons d'entraînement, qu'on peut ensuite diviser en ensembles de support et de requête. L'ensemble de support aide dans les premières étapes d'entraînement, tandis que l'ensemble de requête est utilisé pour évaluer combien le modèle a appris.

#Étape 2 : Création de tâches

Dans notre méthode, on crée diverses tâches pour que notre modèle puisse apprendre. Chaque tâche intègre des échantillons des ensembles de support et de requête. Cette approche structurée aide le modèle à s'entraîner efficacement en se concentrant sur des aspects spécifiques de la détection du discours de haine.

Le processus est répété plusieurs fois, permettant au modèle d'apprendre à partir de différentes combinaisons de langues dans diverses tâches. Cela aide à construire une base solide pour les langues auxiliaires et cibles.

#Étape 3 : Algorithme de méta-apprentissage

Le cœur de notre cadre est l'algorithme de méta-apprentissage. Lorsqu'il est appliqué à la détection du discours de haine, il permet au modèle d'apprendre à s'adapter rapidement à différentes langues et domaines.

Au début, le modèle est entraîné en utilisant des données abondantes de la langue source. Après cette étape, il est affiné pour mieux comprendre la langue auxiliaire avant d'être finalement adapté à la langue cible. Le modèle apprend efficacement où porter son attention lorsque de nouvelles données lui sont présentées.

#Étape 4 : Procédure d'auto-formation

Dans les cas où aucune donnée étiquetée n'est disponible pour la langue cible, on met en œuvre une procédure d'auto-formation. Cela implique de faire des prédictions sur des données non étiquetées et de générer des "étiquettes argentées" basées sur la confiance du modèle. Ces étiquettes sont ensuite utilisées pour entraîner davantage le modèle.

On répète ce processus de manière itérative, permettant au modèle de peaufiner sa compréhension et d'améliorer ses performances au fil du temps. Cette approche d'auto-formation est particulièrement utile dans des situations de manque extrême de données, garantissant que le modèle peut toujours atteindre de fortes capacités de détection du discours de haine.

#Expérimentations

Pour vérifier l'efficacité de notre méthode proposée, on effectue des expériences sur plusieurs ensembles de données de discours de haine multilingues disponibles publiquement. Ces ensembles couvrent une variété de langues à faibles ressources, ce qui nous permet de tester notre approche en profondeur.

#Aperçu des ensembles de données

• Founta-EN : Un grand ensemble de données en anglais contenant des tweets étiquetés comme normaux, spam, abusifs et haineux. On se concentre sur les tweets abusifs et haineux pour notre étude.
• HatEval19 : Un ensemble de données multilingue qui inclut des tweets en anglais et en espagnol ciblant des immigrants et des femmes.
• HASOC20 : Un corpus comprenant des tweets en anglais, allemand et hindi, étiquetés pour discours de haine.
• HaSpeedDe20 : Un ensemble de données italien axé sur le discours de haine envers les immigrants, les Roms et les musulmans, dérivé de tweets et de nouvelles.
• SemEval20 : Un ensemble de données dans cinq langues (anglais, arabe, danois, grec et turc), créé à partir de différentes plateformes de médias sociaux.

#Configuration de l'expérience

On met en place trois configurations d'entraînement différentes pour nos expériences :

1. Zéro-shot : Pas de fine-tuning sur la langue cible.
2. Adaptation de domaine : Entraînement sur des langues auxiliaires tout en testant sur une langue retenue.
3. Fine-tuning complet : Utilisation de tous les échantillons d'entraînement disponibles de toutes les langues.

Nos résultats montreront à quel point notre méthode performe dans différentes configurations par rapport à d'autres méthodes de référence.

#Résultats et analyses

#Performance zéro-shot

Dans nos expériences zéro-shot, on évalue à quel point notre méthode peut prédire le discours de haine dans la langue cible sans entraînement dans cette langue spécifique. Les résultats montrent que notre approche surpasse constamment les modèles de référence, suggérant une forte capacité à généraliser à travers les langues en utilisant des données provenant de sources auxiliaires.

#Adaptation de domaine

Pour les expériences d'adaptation de domaine, on mesure l'impact de l'entraînement sur différentes langues des mêmes familles de langues. Les résultats montrent que notre méthode offre une performance supérieure, surtout lorsque les données d'entraînement varient. En s'appuyant sur des langues auxiliaires, on peut obtenir de meilleurs résultats qu'avec des méthodes de fine-tuning traditionnelles.

#Fine-tuning complet

Dans le scénario de fine-tuning complet, on évalue comment notre méthode se comporte lorsque toutes les données d'entraînement sont utilisées. Notre cadre continue à montrer des résultats améliorés par rapport au fine-tuning standard, surtout à mesure que la quantité de données d'entraînement augmente. Cela souligne le potentiel de notre approche de méta-apprentissage à évoluer efficacement à travers plusieurs langues et domaines.

#Conclusion

En résumé, notre méthode proposée offre une approche précieuse pour détecter le discours de haine dans diverses langues à faibles ressources. En tirant parti du méta-apprentissage et des données provenant de langues auxiliaires, on crée un cadre qui surpasse les méthodes existantes.

Nos résultats indiquent que la méta-formation peut considérablement améliorer les capacités cross-linguales, facilitant l'adaptation à de nouvelles langues et domaines tout en réduisant la dépendance à des données d'entraînement extensives. À l'avenir, on vise à élargir notre travail pour couvrir la détection de discours de haine multiclass et explorer d'autres tâches connexes, en veillant à ce que notre approche continue d'évoluer pour faire face aux défis posés par le discours de haine sur les réseaux sociaux.