Simple Science

Hochmoderne Wissenschaft einfach erklärt

# Computerwissenschaften# Mensch-Computer-Interaktion

Bewertung der gesellschaftlichen Auswirkungen in der Informatikforschung

Ein Einblick in die Herausforderungen, mit denen Forscher konfrontiert sind, wenn sie die gesellschaftlichen Auswirkungen bewerten.

― 7 min Lesedauer


Wirkungsbewertung in derWirkungsbewertung in derTech-ForschungGesellschaft angehen.Auswirkungen von Forschung auf dieHerausforderungen bei der Bewertung der
Inhaltsverzeichnis

In den letzten Jahren gab's immer mehr Gespräche darüber, wie die Informatikforschung die Gesellschaft beeinflusst. Forscher werden immer öfter dazu aufgefordert, über die möglichen negativen Auswirkungen ihrer Arbeit nachzudenken. Dieser Artikel beleuchtet die Herausforderungen, denen sich Forscher in der Industrie gegenübersehen, wenn sie versuchen, die gesellschaftlichen Auswirkungen ihrer Forschung zu bewerten und anzugehen, besonders im Kontext von Tech-Unternehmen.

Der Bedarf an verantwortungsvoller Forschung

Informatikforschung kann zu bedeutenden Veränderungen in der Gesellschaft führen, sowohl positive als auch negative. Mit dem Fortschritt der Technologie ändern sich auch die Möglichkeiten ihrer Nutzung. Einige Forscher fühlen sich unter Druck, schnell Ergebnisse zu liefern, was es schwer macht, über die möglichen Implikationen ihrer Arbeit nachzudenken. Das gilt besonders in der Industrie, wo Forschung oft zügig in Produkte und Dienstleistungen umgesetzt wird.

Organisationen und akademische Gemeinschaften erkennen, wie wichtig es ist, die gesellschaftlichen Auswirkungen zu berücksichtigen. Sie ermutigen nun die Forscher, Wirkungserklärungen in ihre Einreichungen aufzunehmen, die detailliert, wie ihre Arbeit die Gesellschaft beeinflussen könnte. Doch viele Forscher sind unsicher, wie sie diese Bewertungen durchführen sollen. Diese Wissenslücke hat den Bedarf an besseren Werkzeugen und Prozessen hervorgebracht, um Forschern zu helfen, mögliche negative Auswirkungen zu identifizieren und anzugehen.

Herausforderungen bei der Bewertung der gesellschaftlichen Auswirkungen

Durch Interviews mit Forschern aus der Industrie kamen mehrere zentrale Herausforderungen bezüglich der Bewertung der gesellschaftlichen Auswirkungen ans Licht:

1. Beziehung zu Produktteams

Industrieforscher arbeiten oft eng mit Produktteams zusammen, die dafür verantwortlich sind, Forschung in Produkte umzusetzen. Viele Forscher glauben, dass die Auswirkungen ihrer Arbeit erst dann relevant werden, wenn sie in diese Produkte integriert sind. Diese Sichtweise kann dazu führen, dass sie zögern, sich intensiv mit den möglichen gesellschaftlichen Auswirkungen auseinanderzusetzen, es sei denn, sie wissen, dass ihre Forschung in einem Produkt verwendet wird.

Ausserdem haben Forscher oft keinen Einblick, wie ihre Arbeit angewendet wird. Diese fehlende Transparenz kann es ihnen schwer machen, die Auswirkungen ihrer Forschung zu bewerten. In der Folge schieben einige Forscher die Verantwortung für die Bewertung der gesellschaftlichen Auswirkungen auf die Produktteams ab, in der Annahme, dass diese Teams sich um solche Faktoren kümmern sollten.

2. Organisatorische Dynamik und Kultur

Die Kultur in Technologieunternehmen legt oft Wert auf Schnelligkeit und Innovation. Viele Forscher berichteten, sie fühlen sich unter Druck, schnell Ergebnisse zu liefern, was ihre Fähigkeit einschränken kann, über die möglichen gesellschaftlichen Auswirkungen ihrer Arbeit nachzudenken. Diese schnelle Umgebung kann dazu führen, dass der Fokus eher auf sofortigen Ergebnissen als auf langfristigen Überlegungen liegt.

Zudem fühlen sich Forscher, besonders in Junior-Positionen, oft unsicher dabei, Bedenken über die gesellschaftlichen Auswirkungen ihrer Arbeit zu äussern, aus Angst, negativ wahrgenommen zu werden. Sie könnten befürchten, dass das Ansprechen solcher Themen ihrer Karriere schadet, besonders wenn ihre Vorgesetzten begeistert von einem Projekt sind.

3. Missverständnisse über gesellschaftliche Auswirkungen

Einige Forscher glauben, dass ihre Arbeit keine breiteren gesellschaftlichen Auswirkungen hat, insbesondere wenn sie in Bereichen arbeiten, die rein theoretisch erscheinen. Sie denken vielleicht, dass die Bewertung gesellschaftlicher Auswirkungen unnötig ist oder dass das ausserhalb ihres Verantwortungsbereichs liegt. Diese Sichtweise kann sie daran hindern, sich an wichtigen Diskussionen über die Implikationen ihrer Forschung zu beteiligen.

Ausserdem verwechseln viele Forscher den Bedarf, die Integrität der Forschung und das Wohlergehen von menschlichen Probanden zu schützen, mit dem Bedarf, breitere gesellschaftliche Auswirkungen zu berücksichtigen. Dieses Missverständnis kann ihre Fähigkeit einschränken, mögliche negative Folgen wirksam anzugehen.

4. Mangel an Unterstützung und Infrastruktur

Forscher stellten einen erheblichen Mangel an formalen Prozessen und Ressourcen fest, um sie bei der Bewertung gesellschaftlicher Auswirkungen zu unterstützen. Während viele Unternehmen Methoden haben, um positive Auswirkungen zu brainstormen, sind Diskussionen über mögliche negative Auswirkungen oft spontan und informell. Dieses Fehlen von Struktur kann dazu führen, dass wichtige Reflexionen und Diskussionen verpasst werden.

Einige Forscher haben den Wunsch geäussert, Werkzeuge und Richtlinien zu haben, die ihnen helfen, die Bewertung der gesellschaftlichen Auswirkungen zu navigieren. Besonders zugeschnittene Vorlagen, die Forscher durch den Reflexionsprozess führen, könnten dabei helfen, diese Lücke zu überbrücken.

Entwicklung einer Vorlage zur Bewertung der Auswirkungen

Um die Herausforderungen bei der Bewertung der gesellschaftlichen Auswirkungen anzugehen, haben Forscher zusammengearbeitet, um eine Vorlage zur Bewertung von Auswirkungen speziell für Industrieforscher in der Informatik zu erstellen. Diese Vorlage soll es Forschern erleichtern, potenzielle negative Auswirkungen zu identifizieren und Strategien zu deren Minderung zu überlegen.

Hauptmerkmale der Vorlage

  1. Geführte Fragen: Die Vorlage enthält eine Reihe von Fragen, die darauf abzielen, Forscher dazu zu bringen, kritisch über die gesellschaftlichen Implikationen ihrer Arbeit nachzudenken. Diese Fragen helfen dabei, ihre Reflexionen zu leiten und das Engagement mit verschiedenen Dimensionen der Auswirkungen zu fördern.

  2. Gerüst: Die Vorlage liefert gerüstete Elemente wie Checklisten und Beispiele, die Forschern helfen können, potenzielle Auswirkungen zu brainstormen. Diese Unterstützung macht es einfacher für sie, verschiedene Aspekte ihrer Forschung zu betrachten.

  3. Iterativer Prozess: Forscher werden ermutigt, die Vorlage während des Lebenszyklus ihrer Forschung immer wieder aufzugreifen. Dieser iterative Ansatz ermöglicht es ihnen, ihre Bewertungen zu aktualisieren, während sich ihre Forschung entwickelt und neue Überlegungen auftauchen.

  4. Förderung der Zusammenarbeit: Die Vorlage ist darauf ausgelegt, die Kommunikation und Diskussion zwischen Forschern und Produktteams zu fördern. Indem die Rollen und Verantwortlichkeiten bei der Bewertung der gesellschaftlichen Auswirkungen klargestellt werden, wird ein kooperativerer Ansatz unterstützt.

Erste Tests der Vorlage

Um die Benutzerfreundlichkeit und Wirksamkeit der Vorlage zur Bewertung der Auswirkungen zu evaluieren, wurde eine Nutzerstudie mit Praktikanten aus der Industrie durchgeführt. Die Teilnehmer sollten die Vorlage im Kontext ihrer laufenden Forschungsprojekte über die Dauer von einer Woche ausfüllen.

Ergebnisse der Nutzerstudie

Stärken der Vorlage

Die Teilnehmer äusserten, dass die Vorlage klar und einfach zu navigieren war. Viele fanden die geführten Fragen hilfreich, um potenzielle Stakeholder zu identifizieren und sowohl positive als auch negative gesellschaftliche Auswirkungen zu bewerten.

Die Mehrheit der Teilnehmer berichtete, dass das Ausfüllen der Vorlage ihnen half, die Bedeutung der Berücksichtigung gesellschaftlicher Auswirkungen zu erkennen. Sie schätzten, dass die Vorlage ihnen helfen könnte, Erklärungen zu den gesellschaftlichen Implikationen ihrer Arbeit zu entwerfen.

Einschränkungen und Verbesserungsbereiche

Einige Teilnehmer fanden, dass die Vorlage zu lang war und äusserten Bedenken hinsichtlich ihrer Anwendbarkeit auf bestimmte Forschungsbereiche. Andere wünschten sich mehr Unterstützung bei der Bewertung der Wahrscheinlichkeit und des Ausmasses potenzieller Schäden und bei der Entwicklung praktischer Minderungsstrategien.

Teilnehmer schlugen vor, die Vorlage interaktiver zu gestalten, um die Benutzererfahrung zu verbessern. Sie äusserten den Bedarf an Werkzeugen, die nicht-lineares Denken erleichtern, sodass sie leicht zwischen den Abschnitten der Vorlage wechseln können, während sie verschiedene Auswirkungen in Betracht ziehen.

Fazit

Da sich die Technologie weiterentwickelt, wächst der Bedarf an verantwortungsvoller Informatikforschung. Forscher in der Industrie stehen vor einzigartigen Herausforderungen, wenn es darum geht, die gesellschaftlichen Auswirkungen ihrer Arbeit anzugehen. Durch die Entwicklung von Werkzeugen wie der Vorlage zur Bewertung von Auswirkungen hofft man, die Forscher besser auszurüsten, um die potenziellen Implikationen ihrer Forschung zu berücksichtigen.

Eine Kultur der Reflexion über gesellschaftliche Auswirkungen zu fördern, erfordert umfassende Unterstützung sowohl von den Organisationen als auch von der breiteren Forschungscommunity. Mit effektiven Werkzeugen und Prozessen können Forscher auf verantwortungsvolle und reflektierte Informatikforschung hinarbeiten, die die Auswirkungen ihrer Arbeit auf die Gesellschaft berücksichtigt.

Zusammenfassend lässt sich sagen, dass der Weg zur verantwortungsvollen Informatik noch lange nicht beendet ist und Zusammenarbeit, Reflexion und das Engagement für die Berücksichtigung der breiteren gesellschaftlichen Auswirkungen technologischer Fortschritte erfordert.

Originalquelle

Titel: Supporting Industry Computing Researchers in Assessing, Articulating, and Addressing the Potential Negative Societal Impact of Their Work

Zusammenfassung: Recent years have witnessed increasing calls for computing researchers to grapple with the societal impacts of their work. Tools such as impact assessments have gained prominence as a method to uncover potential impacts, and a number of publication venues now encourage authors to include an impact statement in their submissions. Despite this push, little is known about the way researchers assess, articulate, and address the potential negative societal impact of their work -- especially in industry settings, where research outcomes are often quickly integrated into products. In addition, while there are nascent efforts to support researchers in this task, there remains a dearth of empirically-informed tools and processes. Through interviews with 25 industry computing researchers across different companies and research areas, we first identify four key factors that influence how they grapple with (or choose not to grapple with) the societal impact of their research. To develop an effective impact assessment template tailored to industry computing researchers' needs, we conduct an iterative co-design process with these 25 industry researchers and an additional 16 researchers and practitioners with prior experience and expertise in reviewing and developing impact assessments or broad responsible computing practices. Through the co-design process, we develop 10 design considerations to facilitate the effective design, development, and adaptation of an impact assessment template for use in industry research settings and beyond, as well as our own ``Societal Impact Assessment'' template with concrete scaffolds. We explore the effectiveness of this template through a user study with 15 industry research interns, revealing both its strengths and limitations. Finally, we discuss the implications for future researchers and organizations seeking to foster more responsible research practices.

Autoren: Wesley Hanwen Deng, Solon Barocas, Jennifer Wortman Vaughan

Letzte Aktualisierung: 2024-08-12 00:00:00

Sprache: English

Quell-URL: https://arxiv.org/abs/2408.01057

Quell-PDF: https://arxiv.org/pdf/2408.01057

Lizenz: https://creativecommons.org/licenses/by/4.0/

Änderungen: Diese Zusammenfassung wurde mit Unterstützung von AI erstellt und kann Ungenauigkeiten enthalten. Genaue Informationen entnehmen Sie bitte den hier verlinkten Originaldokumenten.

Vielen Dank an arxiv für die Nutzung seiner Open-Access-Interoperabilität.

Mehr von den Autoren

Ähnliche Artikel