Biais dans l'annotation IA pour la détection de discours de haine

L'annotation de données, c'est le processus de marquer des données brutes, super important pour faire marcher les modèles de machine learning. Ce processus peut être influencé par des Biais provenant des personnes qui font l'annotation. Avec l'essor des modèles d'IA avancés, appelés Grands Modèles de Langage (LLMs), comme ChatGPT, il y a une chance d'améliorer cette tâche complexe. Alors que la recherche a examiné l'efficacité de ces modèles d'IA en général, cet article se concentre sur les biais qu'ils ont lors de l'annotation des données de discours haineux.

On a étudié les biais dans les LLMs, notamment les versions comme GPT 3.5 et GPT 4o, quand ils annotent des données pour la détection de discours haineux. Notre recherche examine les biais dans quatre domaines principaux : le genre, la race, la religion et le handicap. On s'intéresse particulièrement à l'impact sur les groupes vulnérables dans ces catégories pour analyser comment les biais apparaissent dans les Annotations. On a bien regardé les données annotées pour découvrir ce qui pourrait causer ces biais. Notre jeu de données personnalisé pour la détection de discours haineux a été développé pour cette recherche et on a aussi utilisé le jeu de données ETHOS pour comparer les résultats.

Cet article vise à aider les chercheurs et les praticiens à comprendre les biais dans les LLMs lorsqu'ils sont utilisés pour l'annotation de données. On veut ouvrir la voie à des améliorations dans les systèmes de détection de discours haineux.

#Annotation de données en IA

Dans le domaine du machine learning et du Traitement Automatique du Langage Naturel (NLP), l'annotation de données joue un rôle vital. Ça va au-delà de juste taguer des données. Ça inclut plein d'étapes, comme trier des données brutes en les classifiant, ajouter des étiquettes supplémentaires pour le contexte, et attribuer des scores pour mesurer la fiabilité des annotations. Ce processus peut être compliqué et subjectif, ce qui demande de l'expertise et beaucoup de travail manuel pour annoter de grands jeux de données.

Récemment, de grands modèles d'IA comme la série GPT d'OpenAI et BERT de Google ont changé notre façon d'aborder ces tâches en montrant qu'ils peuvent comprendre et créer du texte humain assez bien. Les LLMs pourraient aider à rendre l'annotation de données plus facile en automatisant des tâches et en s'assurant qu'il y a une cohérence à travers de grands jeux de données. Ils peuvent être ajustés ou peaufinés pour répondre à des besoins spécifiques, ce qui les rend attrayants pour une utilisation dans divers domaines.

Pourtant, utiliser des Annotateurs humains reste risqué en termes de biais, qu'ils soient intentionnels ou non, ce qui peut affecter la performance des systèmes d'IA. Cet article va se concentrer sur la manière dont les biais apparaissent dans les LLMs quand ils annotent des données de discours haineux. On veut comprendre les problèmes entourant les biais liés au genre, à la race, à la religion, et aux handicaps, surtout dans le contexte des groupes vulnérables.

#Questions de recherche

Notre recherche vise à répondre à plusieurs questions importantes :

1. Y a-t-il des preuves de biais dans les LLMs utilisés pour détecter le discours haineux ?
2. Si un biais existe, quels facteurs pourraient y contribuer ?
3. Quelles stratégies peuvent aider à réduire ces biais ?

#Contributions de l'étude

Dans notre recherche :

• On montre que les LLMs comme GPT-3.5 et GPT-4o montrent des biais d'annotateur quand ils étiquètent des discours haineux. Utiliser des interprétations subjectives conduit à des données d'entraînement biaisées, ce qui peut affecter la performance du modèle négativement.
• On analyse quatre types de biais : le biais de genre, le biais racial, le biais contre les handicaps, et le biais religieux. Par exemple, nos résultats incluent comment le biais de genre se manifeste quand les identités des gens influencent leur façon d'étiqueter le discours haineux.
• On examine les causes sous-jacentes de ces biais et propose des solutions potentielles pour y faire face.

#Travaux connexes

L'utilisation des LLMs a transformé les tâches de NLP, les rendant plus avancées et contextuellement conscientes. Des modèles comme BERT et GPT ont montré de super résultats dans diverses tâches, y compris la classification de texte et le questionnement, grâce à leur capacité à apprendre de grands jeux de données.

Plusieurs études ont examiné comment les LLMs peuvent aider à l'annotation de données. Par exemple, certaines recherches ont exploré comment les LLMs pouvaient créer des explications compréhensibles pour les prédictions des modèles de machine learning. D'autres ont démontré l'efficacité des LLMs pour accélérer le processus d'annotation en réduisant le temps nécessaire pour le marquage manuel.

Il y a un intérêt croissant à utiliser les LLMs pour annoter des données dans différentes tâches de NLP. Des études ont trouvé que l'utilisation de modèles comme GPT-3 peut réduire significativement les coûts d'annotation. De plus, des recherches ont souligné que les LLMs pourraient produire de meilleurs résultats que les annotateurs humains dans certaines tâches de classification.

La recherche sur les biais dans les modèles de NLP est importante. Des études précédentes ont mis en avant deux principaux types de biais : les dommages allocatifs et représentationnels. Différentes méthodes ont été explorées pour détecter et réduire ces biais dans les tâches liées à la compréhension et à la génération de langage.

#Flux de travail et collecte de données

Notre étude commence par une sélection minutieuse de termes liés au discours haineux à partir d'une base de données qui identifie les mots de discours haineux. On a collecté des tweets contenant ces termes en utilisant l'API Twitter, ce qui a donné un jeu de données de 3003 tweets. Pour annoter ces données, on a impliqué trois étudiants en master qui ont catégorisé chaque tweet comme "Haïsant" ou "Pas Haïsant."

Reconnaissant les problèmes dans les méthodes précédemment utilisées qui menaient souvent à des désaccords parmi les annotateurs humains, notre étude a développé des directives plus claires et cohérentes pour l'annotation du discours haineux. Ça impliquait de créer une compréhension partagée de ce qui constitue le discours haineux. On a fourni des définitions détaillées et des informations contextuelles pour aider les annotateurs.

Chaque tweet a été évalué par les trois annotateurs indépendants, et la décision majoritaire a déterminé l'étiquette finale.

#Annotation de données par des modèles d'IA

Ensuite, on a fait annoter notre jeu de données par les LLMs ChatGPT en utilisant à la fois GPT-3.5 et GPT-4o. On a fourni des instructions spécifiques pour guider le modèle sur comment annoter les données. En utilisant différentes perspectives, on a analysé comment les biais pourraient se manifester dans les annotations.

#Résultats et discussion

On a aussi regardé les mêmes biais dans le jeu de données ETHOS et on a trouvé des différences significatives dans les résultats des deux jeux de données lorsque annotés par les LLMs. Notre analyse a montré des biais clairs dans la façon dont différents groupes ont été traités dans les étiquettes.

Par exemple, il y avait des différences notables dans la manière dont des individus de différentes races percevaient et étiquetaient le langage offensant. On a trouvé que le contexte culturel influence la façon dont les gens interprètent le discours haineux, menant à des résultats d'étiquetage différents.

#Analyse des biais

• Biais racial : Nos résultats ont montré que les personnes de différentes origines raciales étiquetaient les déclarations offensantes différemment. Par exemple, un annotateur asiatique peut réagir fortement à des termes liés à son ethnie, tandis qu'un non-asiatique pourrait ne pas voir la même urgence.

• Biais de genre : On a noté des sensibilités variées dans l'étiquetage du discours haineux parmi les annotateurs selon le genre. Les annotateurs féminins avaient une tendance plus forte à étiqueter un langage agressif comme haineux par rapport à leurs homologues masculins.

• Biais religieux et de handicap : Des différences étaient aussi évidentes entre les annotateurs avec différentes croyances religieuses et handicaps. Certains termes étaient signalés comme haineux plus souvent par ceux qui s'identifiaient à des groupes marginalisés, soulignant comment les expériences personnelles façonnent les perceptions du discours haineux.

#Conclusion

Notre étude met en évidence la présence de biais d'annotateur dans les modèles d'IA utilisés pour la détection de discours haineux. Bien que les LLMs comme GPT-3.5 et GPT-4o offrent des opportunités pour améliorer l'annotation de données, ils comportent aussi le risque d'amplifier des biais nuisibles.

On recommande des approches pour réduire ces biais, comme développer des directives spécifiques durant le processus de formation ou d'annotation. Les études futures devraient se concentrer sur une meilleure compréhension de ces biais et comment ils peuvent être contrôlés.

Cette enquête apporte des idées précieuses sur les biais présents dans les Grands Modèles de Langue. Elle ouvre des discussions supplémentaires sur l'assurance d'équité et de fiabilité dans les processus d'annotation de données pilotés par l'IA. À mesure que les LLMs s'intègrent de plus en plus dans les tâches quotidiennes, il est essentiel de continuer à aborder ces biais pour minimiser les impacts négatifs potentiels sur la société.