Équité et chômage de longue durée : un défi politique
Explorer comment l'apprentissage automatique impacte l'équité dans les politiques de chômage.
― 8 min lire
Table des matières
- Le Défi de l'Équité
- L'Équité Prospective
- Fondements Théoriques
- L'Impact sur le Chômage de Long Terme
- Méthodologie
- Résultats
- Les Compromis de l'Équité
- Comparaison des Approches
- Étude de Cas : Chômage de Long Terme en Suisse
- Analyse des Écarts de Genre
- Le Rôle de la Capacité des Programmes
- Conclusion
- Source originale
Le machine learning est de plus en plus utilisé pour prendre des décisions qui impactent la vie des gens, comme prévoir le chômage. Mais il y a des inquiétudes que ces algos puissent renforcer les inégalités sociales existantes. Du coup, la question se pose : comment peut-on s'assurer que le machine learning est juste et qu'il n'aggrave pas ces inégalités ?
Le Défi de l'Équité
L'Équité Algorithmique se concentre surtout sur les décisions prises lors de la formation des modèles de machine learning. En gros, ça veut dire que l'équité est souvent mesurée sur la base des prédictions faites par ces modèles. Mais cette approche néglige ce qui se passe quand ces prédictions sont réellement utilisées dans la société.
Quand les algos sont appliqués dans des situations réelles, ils peuvent influencer les politiques et changer la distribution des ressources. Par exemple, si un algo prédit qu'un certain groupe de personnes au chômage a un risque plus élevé de rester au chômage, des politiques peuvent être mises en place basées sur ces prédictions. Si ces politiques ne prennent pas en compte le contexte social plus large, elles peuvent causer des dommages supplémentaires.
L'Équité Prospective
Plutôt que de se concentrer uniquement sur l'équité au stade de la prédiction, on doit réfléchir à ce qui se passe après qu'un algo soit mis en pratique. Ça s'appelle "l'équité prospective". Ça fait référence à la nécessité d'anticiper l'impact du machine learning sur les inégalités du monde réel.
Pour y arriver, il est important de voir comment les prédictions peuvent mener à des changements de politique et à la distribution des ressources. Par exemple, si on sait que les femmes ont été historiquement désavantagées sur le marché du travail, on devrait s'assurer que les prédictions algorithmiques faites sur les risques de chômage ne détériorent pas leur situation.
Fondements Théoriques
Pour comprendre l'effet du machine learning sur les biens sociaux, il faut identifier des conditions spécifiques qui doivent être remplies. Ça implique d'examiner les différentes manières dont les algos prédictifs peuvent influencer les décisions. Par exemple, si une prédiction montre qu'une personne est à haut risque de chômage à long terme, une politique pourrait être mise en place pour lui donner un soutien supplémentaire. Cependant, la façon dont ce soutien est structuré peut faire une grande différence dans les résultats.
Des études montrent que quand les algos exigent l'équité dans les prédictions, ils peuvent involontairement rendre les décisions moins efficaces pour répondre aux problèmes concrets. Par exemple, exiger une distribution équitable des prédictions de risque peut mener à une moins bonne ciblage des ressources, ce qui échoue finalement à réduire le chômage à long terme.
L'Impact sur le Chômage de Long Terme
Le chômage de long terme est un problème important dans de nombreux pays. Certains groupes, surtout les femmes et les non-citoyens, font face à des risques plus élevés de rester au chômage pendant de longues périodes. Quand les algos de machine learning sont appliqués dans les services publics de l'emploi, il faut s'assurer qu'ils n'aggravent pas ces inégalités existantes.
En utilisant des données historiques, on peut simuler les effets de différentes politiques algorithmiques sur le chômage de long terme. Ça nous permet de voir comment diverses approches impactent les inégalités de genre et les taux de chômage globaux. Par exemple, quand les prédictions priorisent certains groupes par rapport à d'autres sans tenir compte des contextes sociaux plus larges, les bénéfices potentiels peuvent être réduits.
Méthodologie
Pour étudier les effets des politiques algorithmiques sur le chômage de long terme, on peut analyser des données administratives des services publics de l'emploi. Ces données incluent des informations sur les personnes au chômage, leurs caractéristiques démographiques, et les types de soutien qu'elles reçoivent.
Évaluer l'Efficacité des Programmes : La première étape consiste à estimer l'efficacité des différents programmes du marché du travail pour divers groupes de personnes. Ça implique d'utiliser des données historiques pour évaluer la probabilité que différentes personnes trouvent un emploi après avoir participé à chaque programme.
Calcul des Scores de Risque : L'étape suivante consiste à créer des scores de risque pour prédire le chômage à long terme. Ces scores prennent en compte divers facteurs, comme l'éducation, l'historique professionnel, et les conditions du marché du travail local.
Politiques de Priorisation : En fonction des scores de risque, on peut créer des listes qui priorisent les individus pour des programmes de formation. Par exemple, on pourrait prioriser ceux qui sont à risque le plus élevé de rester au chômage.
Affectation des Programmes : Une fois qu'on a ces listes prioritaires, la dernière étape est d'affecter les individus aux programmes de formation. Ça peut se faire de manière aléatoire ou en fonction de l'efficacité de chaque programme pour l'individu.
Résultats
Les Compromis de l'Équité
L'analyse des données montre que si les algos exigent que les prédictions soient justes, cela peut mener à des écarts plus importants de chômage de long terme entre différents groupes. Quand des contraintes d'équité sont appliquées, les programmes peuvent finir par réserver des ressources similaires pour les différents genres, ce qui peut diluer l'efficacité du ciblage des plus dans le besoin.
En revanche, quand les scores de risque ne sont pas contraints par des exigences d'équité, cela peut mener à des réductions plus agressives du chômage de long terme chez les femmes par rapport aux hommes, aidant ainsi à réduire l'écart entre les genres plus efficacement.
Comparaison des Approches
Différentes politiques de priorisation peuvent mener à des résultats variés. Par exemple, une politique qui cible ceux qui ont le plus haut risque de chômage à long terme peut obtenir de meilleurs résultats qu'une politique qui répartit les ressources de manière égale. C'est particulièrement important pour traiter les inégalités de longue date sur le marché du travail.
Les résultats indiquent que l'utilisation d'estimations de traitement personnalisées basées sur des profils individuels-plutôt que de simples critères d'équité rigides-peut considérablement améliorer l'efficacité des programmes et aider à réduire le chômage global.
Étude de Cas : Chômage de Long Terme en Suisse
Cette analyse est basée sur des données du service public de l'emploi suisse, qui utilise divers programmes pour aider les personnes au chômage. Les données montrent que la participation à des programmes du marché du travail est souvent liée à de meilleurs résultats en matière d'emploi.
Analyse des Écarts de Genre
Les données révèlent des écarts de genre persistants dans les taux de chômage de long terme. Les femmes, en particulier celles avec des responsabilités de soins, font souvent face à des défis supplémentaires pour réintégrer le marché du travail. En examinant comment différentes politiques algorithmiques pourraient affecter ces écarts, on peut identifier des stratégies qui pourraient aider à atténuer ces disparités.
Le Rôle de la Capacité des Programmes
Un autre facteur clé pour déterminer le succès de ces programmes est leur capacité. Augmenter le nombre de places disponibles dans des programmes efficaces peut mener à de meilleurs résultats. Si les programmes sont petits, même des options de formation efficaces peuvent ne pas atteindre assez de personnes pour avoir un impact significatif.
Notre analyse montre qu'une politique algorithmique bien conçue peut aider à allouer les ressources de manière efficace, menant à de meilleurs résultats en matière d'emploi et à une réduction des disparités de genre dans le chômage de long terme.
Conclusion
Le machine learning offre des outils précieux pour les politiques publiques, surtout pour aborder des problèmes comme le chômage de long terme. Cependant, la quête de l'équité doit être soigneusement équilibrée avec le besoin de prise de décision efficace.
Pour s'assurer que ces technologies promeuvent la justice sociale, il est essentiel d'adopter une approche d'équité prospective. Cela signifie aller au-delà des prédictions initiales pour considérer comment les politiques affectent les résultats dans le monde réel.
En mettant l'accent sur la distribution des biens sociaux et en anticipant les effets des décisions algorithmiques, on peut travailler vers un marché du travail plus juste et plus efficace. Une recherche continue et des ajustements sont nécessaires pour affiner ces algos, en s'assurant qu'ils servent tous les groupes de manière équitable et aident à réduire les inégalités existantes.
À l'avenir, on devrait prioriser le développement d'algos qui se concentrent sur des résultats équitables plutôt que juste des prédictions justes. Cela pourrait impliquer de cibler directement les disparités dans les taux d'emploi, créant ainsi une société plus juste et inclusive.
Titre: From the Fair Distribution of Predictions to the Fair Distribution of Social Goods: Evaluating the Impact of Fair Machine Learning on Long-Term Unemployment
Résumé: Deploying an algorithmically informed policy is a significant intervention in society. Prominent methods for algorithmic fairness focus on the distribution of predictions at the time of training, rather than the distribution of social goods that arises after deploying the algorithm in a specific social context. However, requiring a "fair" distribution of predictions may undermine efforts at establishing a fair distribution of social goods. First, we argue that addressing this problem requires a notion of prospective fairness that anticipates the change in the distribution of social goods after deployment. Second, we provide formal conditions under which this change is identified from pre-deployment data. That requires accounting for different kinds of performative effects. Here, we focus on the way predictions change policy decisions and, consequently, the causally downstream distribution of social goods. Throughout, we are guided by an application from public administration: the use of algorithms to predict who among the recently unemployed will remain unemployed in the long term and to target them with labor market programs. Third, using administrative data from the Swiss public employment service, we simulate how such algorithmically informed policies would affect gender inequalities in long-term unemployment. When risk predictions are required to be "fair" according to statistical parity and equality of opportunity, targeting decisions are less effective, undermining efforts to both lower overall levels of long-term unemployment and to close the gender gap in long-term unemployment.
Auteurs: Sebastian Zezulka, Konstantin Genin
Dernière mise à jour: 2024-06-17 00:00:00
Langue: English
Source URL: https://arxiv.org/abs/2401.14438
Source PDF: https://arxiv.org/pdf/2401.14438
Licence: https://creativecommons.org/licenses/by/4.0/
Changements: Ce résumé a été créé avec l'aide de l'IA et peut contenir des inexactitudes. Pour obtenir des informations précises, veuillez vous référer aux documents sources originaux dont les liens figurent ici.
Merci à arxiv pour l'utilisation de son interopérabilité en libre accès.