Atteindre l'équité dans l'apprentissage automatique avec des connaissances causales partielles

L'objectif de l'apprentissage automatique équitable, c'est de prendre des décisions qui ne discriminent pas des individus ou des groupes en fonction de caractéristiques comme le genre ou la race. Ces dernières années, on a vu une montée en popularité des méthodes causales pour mesurer l'équité, surtout en évaluant les effets causaux. Cependant, beaucoup de techniques existantes partent du principe que les vraies relations de cause à effet (graphes causaux) sont déjà connues. Dans la vie réelle, ce n'est souvent pas le cas.

Ce travail propose une nouvelle façon d'atteindre l'équité quand on a que quelques informations sur les relations causales. L'approche proposée utilise un type de graphe appelé Graphe Acyclique Partiellement Dirigé (PDAG). Cette structure de graphe nous permet de modéliser des prédictions équitables en prenant en compte non seulement les relations connues mais aussi en incorporant des informations provenant de données d'observation et de connaissances d'experts.

#Apprentissage Automatique et Ses Défis

L'apprentissage automatique a bien réussi dans des domaines comme le recrutement, l'évaluation des risques criminels et la finance. Ces systèmes donnent des insights précieux mais peuvent aussi véhiculer des biais venant des données sur lesquelles ils sont formés. Par exemple, un outil de recrutement développé par une grande entreprise a montré un biais contre les candidates féminines à cause de la façon dont il traitait les CV.

Pour s'attaquer à ces biais, plusieurs méthodes ont été proposées, qui se regroupent en deux grandes catégories : les mesures d'équité statistiques et les mesures d'équité causale. Les méthodes d'équité statistiques se concentrent sur les différences entre les groupes, tandis que les méthodes d'équité causale examinent comment les attributs sensibles affectent les résultats des décisions.

#Bases de l'Équité Causale

L'équité causale est liée à la compréhension des relations de cause à effet. Elle repose sur un modèle appelé l'échelle de causalité de Pearl, qui inclut les interventions (actions prises pour changer un certain résultat) et les contrefactuels (ce qui se serait passé dans d'autres conditions).

Une des idées les plus simples et générales d'équité causale est appelée équité interventionnelle. Ce concept examine comment les attributs sensibles affectent les résultats à travers des chemins spécifiques dans un graphe. Beaucoup de méthodes existantes pour garantir l'équité reposent sur un graphe causal entièrement défini. Cependant, dans de nombreuses situations réelles, nous ne connaissons pas entièrement ces graphes, ce qui pose des défis.

#Apprendre à Partir d'Informations Incomplètes

Une approche courante pour traiter les graphes causaux inconnus est d'utiliser des méthodes de découverte causale, qui visent à inférer la structure causale à partir des données. Cependant, sans hypothèses solides sur la façon dont les données sont générées, ces méthodes peuvent avoir du mal à révéler les vraies relations causales. Dans de nombreux cas, le résultat est une classe de graphes qui partagent les mêmes indépendances conditionnelles.

Dans ce contexte, une question clé se pose : peut-on définir l'équité interventionnelle même quand on n'a qu'une connaissance partielle des structures causales ? L'approche proposée suggère de commencer avec un MPDAG, qui est une version affinée d'un PDAG, pour représenter notre compréhension incomplète.

#Approche pour des Prédictions Équitables

Pour développer des prédictions équitables, l'approche identifie les non-descendants d'attributs sensibles dans le MPDAG. Cependant, se concentrer uniquement sur les non-descendants peut nuire à l'exactitude des prédictions. Ce travail propose une solution équilibrée à travers un problème d'optimisation contraint, qui cherche à maximiser à la fois l'équité et l'exactitude.

La méthode prend en compte l'impact de toutes les variables d'observation dans la modélisation de l'équité interventionnelle dans les MPDAGs. Cela donne lieu à un nouveau graphe causal qui aide à formaliser l'évaluation des critères d'équité interventionnelle.

#Hypothèses et Limitations

Bien que ce cadre suppose qu'il n'y a pas de biais de sélection ou de confondants cachés, ces limitations sont courantes dans de nombreuses études connexes. La contribution clé est la capacité à atteindre l'équité interventionnelle même lorsque le graphe causal n'est pas entièrement dirigé.

#Modèles causaux structurels

Un Modèle Causal Structurel (SCM) sert de cadre pour représenter les relations causales entre les variables. Il se compose de trois parties : des variables observables, des variables non observables, et des fonctions représentant comment les variables observables dépendent de leurs causes directes.

Les relations dans un SCM peuvent être visualisées comme des graphes dirigés, avec des flèches montrant la direction de l'influence entre les variables. Les Graphes Acycliques Dirigés (DAG) et leurs versions partiellement dirigées comme les PDAGS représentent différents types de relations causales dans ces modèles.

#Comprendre les Graphes

Un DAG est un graphe qui contient des arêtes dirigées et pas de cycles. Quand certaines connexions sont non dirigées, ça devient un PDAG. Chaque type de graphe a un moyen spécifique de capturer les relations et les indépendances conditionnelles entre les variables.

La classe d'équivalence de Markov fait référence à un groupe de DAGs qui codent les mêmes indépendances conditionnelles. Le PDAG complété (CPDAG) représente ces classes de manière unique. D'autre part, un PDAG Maximally Oriented (MPDAG) reflète l'utilisation des connaissances de fond pour une meilleure directionnalité dans le graphe.

#Inference Causale et Équité Interventionnelle

Les interventions forcent une variable à prendre une valeur spécifique, impactant la relation causale représentée dans un SCM. De cette façon, les effets causaux peuvent être compris à travers les distributions post-intervention. Le critère d'équité interventionnelle évalue si les prédictions respectent les attributs sensibles dans différentes conditions.

L'objectif est de s'assurer que le modèle prédictif est équitable en tenant compte des attributs sensibles, ce qui signifie que les prédictions ne doivent pas favoriser ou défavoriser injustement un groupe en fonction de ces attributs.

#Formulation du Problème d'Équité

Le défi pour atteindre l'équité interventionnelle consiste à formuler le problème d'une manière qui nous permet d'évaluer à la fois l'équité et l'exactitude. La méthode proposée définit l'équité interventionnelle comme une fonction des attributs admissibles et des non-descendants d'attributs sensibles.

Établir un critère graphique permet d'identifier les relations entre les variables, améliorant la compréhension globale des effets causaux dans les MPDAGs.

#Équité Interventionnelle Approximative

Pour traiter le problème d'apprendre des prédictions équitables à partir d'un MPDAG, ce travail introduit le concept d'équité interventionnelle -approximative. L'objectif est de trouver un modèle qui maintienne l'équité tout en maximisant l'exactitude dans certaines limites acceptables.

La méthode proposée minimise la perte sous des contraintes d'équité définies, aboutissant à un modèle qui peut prédire avec précision les résultats tout en cherchant à garantir l'équité entre les groupes.

#Operationaliser l'Équité Interventionnelle

La mise en œuvre pratique de l'approche se concentre sur la génération de prédictions basées sur des variables observables dans le MPDAG. Ce faisant, le modèle peut faciliter l'inférence causale et s'assurer que les métriques d'équité sont respectées.

#Résultats et Validation Expérimentale

Les résultats expérimentaux montrent l'efficacité de la méthode proposée sur des ensembles de données synthétiques et réelles. Ces expériences mesurent l'exactitude des prédictions et le niveau d'inéquité interventionnelle en utilisant diverses métriques.

Pour les données synthétiques, les modèles qui incluent des attributs sensibles ont tendance à moins bien performer en termes d'équité. Cependant, la méthode proposée démontre qu'elle peut trouver un équilibre entre peu d'inéquité et le maintien de l'exactitude des prédictions.

#Exemples d'Applications dans le Monde Réel

#Jeu de Données Étudiants UCI

En utilisant le jeu de données sur la performance des étudiants de l'UCI, l'approche a été appliquée pour mesurer les résultats académiques tout en tenant compte d'attributs sensibles comme le genre. Les résultats indiquent que la méthode proposée pouvait maintenir l'équité tout en prédisant avec précision la performance des étudiants.

#Évaluation des Risques de Crédit

Dans le contexte de l'évaluation des risques de crédit, le modèle a analysé les informations des emprunteurs pour prédire la probabilité de défaut sur des prêts. En intégrant des attributs sensibles, la méthode a veillé à ce que les prédictions soient équitables entre les différents groupes.

#Conclusion

Ce travail présente un cadre pour atteindre l'équité interventionnelle sur des graphes causaux partiellement connus. En encourageant une méthode équilibrée entre équité et exactitude, il s'attaque aux limitations des méthodes actuelles qui reposent sur des relations causales entièrement définies.

L'approche se révèle utile dans des scénarios réels, offrant des insights pratiques pour mettre en œuvre des prédictions équitables dans les systèmes d'apprentissage automatique. Les efforts futurs peuvent encore affiner ce travail en s'attaquant aux défis rencontrés dans des situations avec des biais cachés ou des confondants non reconnus.

#Discussion Générale

La relation entre équité et exactitude reste complexe et dépend du contexte. Il y a des cas où il est possible d'améliorer l'équité sans sacrifier l'exactitude, tandis que dans d'autres, des compromis peuvent être inévitables. Les travaux futurs bénéficieront d'une meilleure compréhension de ces dynamiques pour informer des applications plus efficaces des mesures d'équité dans l'apprentissage automatique.

Au final, la lutte contre les biais dans les systèmes de prise de décision automatisée nécessite une recherche continue et des avancées méthodologiques pour réaliser l'objectif d'un apprentissage automatique véritablement équitable.