Évaluer l'impact sociétal dans la recherche en informatique
Un aperçu des défis rencontrés par les chercheurs pour évaluer les effets sur la société.
― 8 min lire
Table des matières
- Le Besoin d'une Recherche Responsable
- Défis dans l'Évaluation de l'Impact sociétal
- 1. Relation avec les Équipes Produits
- 2. Dynamiques et Culture Organisationnelle
- 3. Idées Reçues sur l'Impact Sociétal
- 4. Manque de Soutien et d'Infrastructure
- Développement d'un Modèle d'Évaluation d'impact
- Caractéristiques Clés du Modèle
- Test Initial du Modèle
- Résultats de l'Étude Utilisateur
- Conclusion
- Source originale
- Liens de référence
Ces dernières années, on parle de plus en plus de l'impact de la recherche en informatique sur la société. Les chercheurs doivent de plus en plus réfléchir aux potentielles conséquences négatives de leur travail. Cet article examine les défis auxquels font face les chercheurs de l'industrie pour évaluer et aborder les impacts sociaux de leur recherche, surtout dans le contexte des entreprises technologiques.
Le Besoin d'une Recherche Responsable
La recherche en informatique peut entraîner des changements majeurs dans la société, qu'ils soient positifs ou négatifs. À mesure que la technologie évolue, ses usages évoluent aussi. Certains chercheurs se trouvent sous pression pour produire des résultats rapidement, ce qui complique la réflexion sur les implications potentielles de leur travail. C'est particulièrement vrai dans le milieu industriel où la recherche est souvent transformée rapidement en produits et services.
Les organisations et les communautés académiques reconnaissent l'importance de considérer les impacts sociétaux. Elles encouragent désormais les chercheurs à inclure des déclarations d'impact dans leurs soumissions, détaillant comment leur travail pourrait affecter la société. Cependant, beaucoup de chercheurs ne savent pas comment réaliser ces évaluations. Ce manque de connaissance a créé un besoin d'outils et de processus mieux adaptés pour aider les chercheurs à identifier et à traiter les impacts négatifs potentiels.
Impact sociétal
Défis dans l'Évaluation de l'À travers des interviews avec des chercheurs de l'industrie, plusieurs défis clés ont émergé concernant l'évaluation de l'impact sociétal :
1. Relation avec les Équipes Produits
Les chercheurs de l'industrie travaillent souvent en étroite collaboration avec des équipes produits responsables de transformer la recherche en produits. Beaucoup pensent que l'impact de leur travail ne se réalise que quand il est intégré dans ces produits. Cette perception peut créer une réticence à s'engager profondément avec les impacts sociétaux potentiels, à moins qu'ils ne sachent que leur recherche sera utilisée dans un produit.
De plus, les chercheurs peuvent manquer de visibilité sur l'application de leur travail. Ce manque de transparence complique leur évaluation de l'impact potentiel de leur recherche. En conséquence, certains chercheurs refilent la responsabilité de l'évaluation de l'impact sociétal aux équipes produits, pensant que ce sont elles qui devraient s'en occuper.
2. Dynamiques et Culture Organisationnelle
La culture au sein des entreprises tech privilégie souvent la rapidité et l'innovation. Beaucoup de chercheurs ont rapporté ressentir une pression pour livrer des résultats rapidement, ce qui peut entraver leur capacité à réfléchir sur les impacts sociétaux potentiels de leur travail. Ce milieu rapide peut mener à un focus sur les résultats immédiats plutôt que sur des considérations à long terme.
En plus, les chercheurs, surtout ceux en début de carrière, peuvent hésiter à évoquer leurs inquiétudes concernant les impacts sociétaux de leur travail de peur d'être mal vus. Ils craignent que mentionner ces problèmes nuise à leurs perspectives de carrière, surtout si leurs managers sont excités par un projet.
3. Idées Reçues sur l'Impact Sociétal
Certains chercheurs croient que leur travail n'a pas d'implications sociétales plus larges, surtout s'ils œuvrent dans des domaines qui semblent purement théoriques. Ils pourraient penser qu'évaluer les impacts sociétaux est inutile ou que cela ne relève pas de leur responsabilité. Cette perspective peut les empêcher de s'engager dans des discussions importantes sur les implications de leur recherche.
De plus, beaucoup de chercheurs confondent la nécessité de protéger l'intégrité de la recherche et le bien-être des sujets humains avec la nécessité de considérer des impacts sociétaux plus larges. Ce malentendu peut limiter leur capacité à traiter efficacement les conséquences négatives potentielles.
4. Manque de Soutien et d'Infrastructure
Les chercheurs ont noté un manque flagrant de processus formels et de ressources pour les aider à évaluer les impacts sociétaux. Bien que beaucoup d'entreprises aient des méthodes pour réfléchir aux impacts positifs, les discussions sur les impacts négatifs potentiels sont souvent spontanées et informelles. Ce manque de structure peut mener à des occasions manquées pour une réflexion critique et des discussions.
Certains chercheurs ont exprimé le souhait d'avoir des outils et des lignes directrices pour les aider à naviguer dans l'évaluation de l'impact sociétal. En particulier, des modèles adaptés pour guider les chercheurs dans le processus de réflexion pourraient aider à combler cette lacune.
Évaluation d'impact
Développement d'un Modèle d'Pour répondre aux défis liés à l'évaluation de l'impact sociétal, les chercheurs ont collaboré pour créer un modèle d'évaluation d'impact spécifiquement destiné aux chercheurs en informatique de l'industrie. Ce modèle vise à faciliter l'identification des impacts négatifs potentiels et à envisager des stratégies d'atténuation.
Caractéristiques Clés du Modèle
Questions Guidées : Le modèle comprend une série de questions conçues pour inciter les chercheurs à réfléchir de manière critique aux implications sociétales de leur travail. Ces questions aident à guider leur réflexion et encouragent l'engagement avec les différentes dimensions d'impact.
Structures de Soutien : Le modèle offre des éléments de soutien comme des listes de contrôle et des exemples qui peuvent aider les chercheurs à brainstormer les impacts potentiels. Ce soutien facilite la prise en compte des différents aspects de leur recherche.
Processus Itératif : Les chercheurs sont encouragés à revisiter le modèle tout au long du cycle de vie de leur recherche. Cette approche itérative leur permet de mettre à jour leurs évaluations au fur et à mesure que leur recherche évolue et que de nouvelles considérations apparaissent.
Encouragement à la Collaboration : Le modèle est conçu pour favoriser la communication et la discussion entre les chercheurs et les équipes produits. En clarifiant les rôles et responsabilités dans l'évaluation des impacts sociétaux, il promeut une approche plus collaborative.
Test Initial du Modèle
Pour évaluer l'utilisabilité et l'efficacité du modèle d'évaluation d'impact, une étude utilisateur a été menée avec des stagiaires en recherche industrielle. Les participants ont été invités à remplir le modèle dans le contexte de leurs projets de recherche en cours pendant une semaine.
Résultats de l'Étude Utilisateur
Forces du Modèle
Les participants ont exprimé que le modèle était clair et facile à naviguer. Beaucoup ont trouvé les questions guidées utiles pour identifier les parties prenantes potentielles et évaluer les impacts sociétaux positifs et négatifs.
La majorité des participants ont rapporté que remplir le modèle les a aidés à reconnaître l'importance de considérer les impacts sociétaux. Ils ont apprécié que le modèle puisse les aider à rédiger des déclarations concernant les implications sociétales de leur travail.
Limitations et Axes d'Amélioration
Certains participants ont trouvé que le modèle était trop long et ont exprimé des préoccupations quant à sa pertinence pour certains domaines de recherche. D'autres ont souhaité plus de soutien pour évaluer la probabilité et l'ampleur des éventuels dommages et pour développer des stratégies d'atténuation pratiques.
Les participants ont suggéré que rendre le modèle plus interactif pourrait améliorer l'expérience utilisateur. Ils ont exprimé un besoin d'outils qui facilitent la pensée non linéaire, leur permettant de naviguer facilement entre les sections du modèle en considérant différents impacts.
Conclusion
Alors que la technologie continue de progresser, le besoin d'une recherche informatique responsable grandit. Les chercheurs dans l'industrie font face à des défis uniques pour aborder les impacts sociétaux de leur travail. En développant des outils comme le modèle d'évaluation d'impact, on espère mieux équiper les chercheurs pour considérer les implications de leur recherche.
Encourager une culture de réflexion autour de l'impact sociétal nécessite un soutien complet à la fois des organisations et de la communauté de recherche au sens large. Avec des outils et des processus efficaces en place, les chercheurs peuvent travailler vers une recherche informatique responsable et réfléchie qui prend en compte les implications de leur travail sur la société.
En résumé, le chemin vers une informatique responsable est en cours, et il implique collaboration, réflexion et engagement à considérer les impacts sociétaux plus larges des avancées technologiques.
Titre: Supporting Industry Computing Researchers in Assessing, Articulating, and Addressing the Potential Negative Societal Impact of Their Work
Résumé: Recent years have witnessed increasing calls for computing researchers to grapple with the societal impacts of their work. Tools such as impact assessments have gained prominence as a method to uncover potential impacts, and a number of publication venues now encourage authors to include an impact statement in their submissions. Despite this push, little is known about the way researchers assess, articulate, and address the potential negative societal impact of their work -- especially in industry settings, where research outcomes are often quickly integrated into products. In addition, while there are nascent efforts to support researchers in this task, there remains a dearth of empirically-informed tools and processes. Through interviews with 25 industry computing researchers across different companies and research areas, we first identify four key factors that influence how they grapple with (or choose not to grapple with) the societal impact of their research. To develop an effective impact assessment template tailored to industry computing researchers' needs, we conduct an iterative co-design process with these 25 industry researchers and an additional 16 researchers and practitioners with prior experience and expertise in reviewing and developing impact assessments or broad responsible computing practices. Through the co-design process, we develop 10 design considerations to facilitate the effective design, development, and adaptation of an impact assessment template for use in industry research settings and beyond, as well as our own ``Societal Impact Assessment'' template with concrete scaffolds. We explore the effectiveness of this template through a user study with 15 industry research interns, revealing both its strengths and limitations. Finally, we discuss the implications for future researchers and organizations seeking to foster more responsible research practices.
Auteurs: Wesley Hanwen Deng, Solon Barocas, Jennifer Wortman Vaughan
Dernière mise à jour: 2024-08-12 00:00:00
Langue: English
Source URL: https://arxiv.org/abs/2408.01057
Source PDF: https://arxiv.org/pdf/2408.01057
Licence: https://creativecommons.org/licenses/by/4.0/
Changements: Ce résumé a été créé avec l'aide de l'IA et peut contenir des inexactitudes. Pour obtenir des informations précises, veuillez vous référer aux documents sources originaux dont les liens figurent ici.
Merci à arxiv pour l'utilisation de son interopérabilité en libre accès.