Was bedeutet "Sensitiver Merkmal-Klassifizierer"?
Inhaltsverzeichnis
Ein Sensitiv-Feature-Klassifizierer ist ein Werkzeug, das genutzt wird, um versteckte Vorurteile in Entscheidungsfindungssystemen zu finden, besonders in solchen, die von künstlicher Intelligenz (KI) und maschinellem Lernen betrieben werden.
Was sind Sensible Merkmale?
Sensible Merkmale sind Eigenschaften wie Geschlecht, Rasse oder Religion, die die Chancen einer Person in verschiedenen Situationen unfair beeinflussen könnten, wie zum Beispiel bei Bewerbungen oder Kreditgenehmigungen. Um Fairness zu fördern, versuchen manche Systeme, diese Merkmale zu ignorieren. Trotzdem können Probleme auftreten.
Wie funktioniert das?
Selbst wenn sensible Merkmale nicht in den Daten enthalten sind, kann ein Modell trotzdem voreingenommene Entscheidungen treffen. Das passiert, weil andere Eigenschaften, die Proxy-Merkmale genannt werden, auf diese sensiblen Merkmale hinweisen können. Ein Sensitiv-Feature-Klassifizierer sucht nach diesen versteckten Vorurteilen.
Der Prozess
Identifizierung negativer Ergebnisse: Wenn einer Person eine negative Entscheidung (wie eine Kreditablehnung) gegeben wird, erstellt der Klassifizierer alternative Szenarien (genannt Gegenfaktoren), in denen die Situation der Person so verändert wird, dass sie möglicherweise zu einer positiven Entscheidung führen könnte.
Analyse: Diese veränderten Szenarien werden dann vom Sensitiv-Feature-Klassifizierer überprüft. Er schaut, ob die Veränderungen an den Eigenschaften der Person sie in eine günstigere Gruppe bringen könnten. Wenn das der Fall ist, deutet das darauf hin, dass der ursprüngliche Entscheidungsprozess möglicherweise immer noch voreingenommen ist.
Wichtigkeit
Die Verwendung von Sensitiv-Feature-Klassifizierern hilft dabei, unfair behandelte Personen in KI-Systemen zu identifizieren. Das ist entscheidend, um sicherzustellen, dass jeder fair behandelt wird, unabhängig von Eigenschaften, die die Entscheidungen nicht beeinflussen sollten.