AIシステムにおけるジェンダーバイアスの対処

この論文の著作権は著者にあります。クリエイティブ・コモンズライセンスの下で使用が許可されています。アトリビューション4.0国際（CC BY 4.0）。

#ワークショップの紹介

IAIL 2024ワークショップは、AI法の導入後のAIの未来を理解することに焦点を当てています。私たちの議論では、平均性理論とEU法を使ってAIにおける性別のステレオタイプを分析し、これらの要素がどのように相互作用するかを考察します。

#AIにおける性別ステレオタイプの概観

この研究では、AIシステムが性別をどのように分類し、これらのシステムが社会の既存のバイアスをどのように反映しているかを探ります。「平均性」という概念を使って、魅力が性別認識能力に関連しているかを調査し、AIが人間の判断と似たバイアスを持つかどうかを考えます。

私たちは、AIモデルのStable Diffusion 2.1を使用して、魅力がAIの性別分類の正確さにどのように影響するかを評価するデータセットを作成しました。結果は、人間と同様に、AIシステムも知覚された魅力に基づいて性別分類に苦しんでいることを示し、社会的なステレオタイプが広まっていることを示しています。

この研究は、AIのデータ収集に人間の視点を考慮する必要があることを強調し、AI技術の開発に対する多様なアプローチの重要性を示しています。

#言語とステレオタイプ

言語は、私たちがコミュニケーションを取り、考えを表現する上で重要な役割を果たします。言語には文化的および社会的な価値があり、ステレオタイプを強化する可能性があります。性別ステレオタイプは、性別役割の理解を簡略化し、しばしば社会が男性と女性に関連付ける身体的特徴や感情的特性に焦点を当てます。

フェミニスト理論は、これらの役割がどのように構築されるかを検討し、性別は生物学だけでなく社会的規範から生じると主張します。この研究では、これらのステレオタイプがデジタル技術、特にAIにどのように移行するかに焦点を当てます。

#AIと性別バイアスの問題

AIシステムはバイアスから自由ではありません。歴史的に、技術は男性の視点に影響されてきたため、包括性について懸念が浮上します。データを選択する際に人間が行った選択によってAIの出力にバイアスが生じ、これがアルゴリズムの学習に影響します。

たとえば、特定のAI画像ラベリングサービスは、男性と女性の画像の分類方法にバイアスを示しました。研究では、AIが男性よりも女性の髪型により多く注意を払うことが明らかになり、古いステレオタイプを強化するラベルが付けられています。

これらの問題を認識し、AI技術が男性中心の物語を助長するのか、それともより包括的な未来を作れるのかを探ります。

#AIシステムにおける人間のバイアス

バイアスは、AIシステムが使用するデータセットやルールの選択を通じて入り込みます。欧州連合の報告書は、データの質がAIのバイアスを減少させる上で重要であることを強調しています。

これらのバイアスに対抗するために、私たちの研究は、人間の認識がデータ収集にどのように影響し、これがAIの開発にどのような影響を及ぼすかを分析することを目指しています。性別分類システムに存在する人間のバイアスを特定したいと考えています。

#認知心理学とAIの探求

私たちの研究は、認知心理学、特に平均性理論のアイデアを適用して、人間のバイアスがAIシステムにどのように反映されるかを理解しようとしています。性別分類におけるAIのパフォーマンスを人間の判断と比較することにより、魅力がこれらの分類に与える影響を特定することを目指しています。

分析を通じて、AI法とGDPRによって確立された法的な枠組みに深く掘り下げ、公正と平等を保護するために設計されています。心理学理論と法的な洞察を統合することで、AIシステムにおける性別の公正さを高める方法を模索しています。

#AIにおける性別バイアスに関する現在の研究

AIにおける性別バイアスを調査する中で、これらのシステムが社会的不均衡を増幅させる可能性があることが分かりました。「Gender Shade」プロジェクトでは、AIシステムが女性、特に有色人種の女性を分類する際に重大な不正確さがあることが明らかになりました。これらのバイアスは、人種や性別に関するより深い問題を引き起こします。

異なるAIサービスは、さまざまなトレーニングデータやインフラを使用する可能性があり、性別の分類に一貫性がないことがあります。一般的な説明は、特定の人口統計グループがトレーニングデータセットに過小評価されているというものですが、単にこれらのデータセットを均衡させるだけではバイアスを排除することはできません。

AIシステム内でのステレオタイプの持続は、この問題をさらに複雑にします。研究によれば、メイクや髪型などの特徴がAIの性別分類に大きな影響を与え、古い社会的慣習を強化しています。

#画像生成におけるバイアスの調査

テキストから画像へのシステムも、特に性別や人種においてバイアスを示します。AIモデルは、出力においてしばしばステレオタイプを生成し、白人性や男性性に関連する属性の過剰表現の傾向を反映します。

研究は、AIモデルのトレーニングに使用されるコンテンツが出力のバイアスを制御することを示しています。バイアスを軽減しようとする試みがあるものの、課題が残っており、さらなる調査が求められています。

#人間のバイアスから機械のバイアスへの移行

私たちの研究は、人間のバイアスから機械のバイアスへの議論を移行させます。認知心理学は長い間、性別をどのように認識するかを探求しており、この認識に影響を与えるさまざまな顔の特徴を特定しています。しかし、これらの認識がAIの分類に影響を与えるステレオタイプにどのように変わるかを認識することが重要です。

平均性理論は、魅力的な顔はその典型的な性質のためにAIによってより簡単に分類されることを示唆しています。この相関関係は性別によって異なり、社会的規範に基づく魅力の認識の違いを明らかにします。

私たちの研究は、人間の認識におけるこれらのバイアスがAIの分類プロセスにどのように現れるか、特に性別に関して調査することを目指しています。

#研究の目的

私たちは、平均性理論がAIの性別分類パフォーマンスに与える影響について以下の質問に答えようとしています。

1. 顔の魅力はAIアルゴリズムの性別分類の正確さに影響を与えますか？
2. 魅力的な顔と魅力的でない顔の分類精度に違いはありますか？
3. 性別分類アルゴリズムは性別ステレオタイプを反映しており、これらのステレオタイプはどのように現れますか？

#合成データセットの作成

これらの質問を調査するために、魅力に焦点を当てた合成データセットを生成しました。魅力は主観的である可能性がありますが、HotOrNotやCelebAなどの既存のデータセットを使用して研究を補完しました。

しかし、これらのデータセットには、さまざまな民族の表現に関して制限があります。私たちの解決策は、特定の魅力に関するプロンプトに基づいて画像を生成するためにStable Diffusionを使用して、バランスの取れた合成データセットを作成することでした。

異なる民族的背景を持つ個人の画像を生成することで、性別認識バイアスを研究するための一貫した環境を作り出すことを目指しました。

#データセットの作成と属性

私たちは、さまざまな民族の魅力的および魅力的でない個人の正面画像を特徴としたバランスの取れたデータセットを作成しました。このプロセスでは、Stable Diffusionを利用して2,400枚の画像を生成し、顔に焦点を当てるためにトリミングしました。

データセットを生成した後、これらの画像に存在する属性を分析し、魅力的な顔と魅力的でない顔の年齢やメイクの使用などの要素の違いを記録しました。

#性別分類モデルとメトリクス

私たちの分析のために、Amazon RekognitionやDeepFaceなどのいくつかの性別分類モデルを選択しました。各モデルのパフォーマンスは、正確さやエラー率という観点で測定し、特に魅力的および魅力的でない個人の分類に焦点を当てました。

結果は、男性の分類精度は比較的一貫しているのに対し、知覚された魅力に基づいて女性の分類には顕著な不均衡が存在することを示唆しています。これは、AIが性別を解釈する際のバイアスの可能性を示しています。

#性別分類結果の分析

私たちの分析結果は、魅力に基づくAIモデルのパフォーマンスに明確な違いを示しました。たとえば、DeepFaceは魅力的でない女性を分類する際に正確さが顕著に低下し、社会的に受け入れられた美の基準に対するバイアスを示しています。

さらに分析を進めると、魅力的でない女性はさまざまなモデルで高いエラー率に直面しており、美に関する社会的期待がAIの性別分類の正確性に大きな影響を与えていることが示唆されています。

#身体的特徴と表現の検討

生成したデータセットの定性的な調査では、魅力的および魅力的でない顔の表現において明確な特徴があることが明らかになりました。平均的な魅力的な顔は通常、微笑んでいる表情を示し、魅力的でない顔はしばしばより真剣な表情を持っていました。

メイクは重要な要素であり、魅力的な女性は通常、より際立ったメイクで描かれている一方で、魅力的でない女性はより薄いメイクやメイクをしないことが多かったです。これは、美や魅力に関する社会的ステレオタイプを強化します。

#問題のあるAI出力

データセット生成中に、Stable Diffusionによって生成された一部の画像は懸念を引き起こしました。顔だけに焦点を当てるのではなく、多くの出力が身体の部分を描写し、魅力的な女性の口や胸などの特徴を強調する傾向がありました。これらの傾向は、AIシステムが画像を生成する際の潜在的なバイアスを示唆しています。

#法的な含意

AIを導く法的枠組み、特にデータの質や表現に関連するものは、バイアスを軽減する上で重要です。AI法とGDPRは、AIシステム内での公正な扱いや差別のない状態を保証するために、高品質なデータの重要性を強調しています。

私たちの研究が示すように、バイアスのあるデータセットに依存するAI分類器は、意図せざるうちにステレオタイプや不平等を助長することがあります。 AI技術における公正さを確保するためには、表現とデータの質の問題に対処することが重要です。

#性別分類リスクの評価

個人データを処理するAIシステム、特に性別分類に使用されるものは、人権に対するリスクを伴います。これらのシステムに関連するリスクに関する明確なガイドラインが必要で、差別や不当な扱いにつながらないようにすることが求められています。

現在、多くのAIシステムは、個人の権利への影響を受けるため、高リスクに分類されます。しかし、私たちの分析は、高リスクシステムを定義するためのしきい値が明確さに欠ける可能性があることを示唆しています。

#結論

私たちのAIにおける性別認識の探求は、技術と社会的バイアスとの複雑な関係を浮き彫りにしています。この結果は、AIシステムが美しさや性別に関する既存のステレオタイプをどのように反映し、強化するかを示しています。

これらの問題に対処するためには、技術的な専門知識と社会科学からの洞察を統合する学際的なアプローチを採用することが重要です。 AIシステムで使用されるデータが多様で代表的であることを確保することで、平等と人権を尊重する技術を構築するために努めることができます。

AIの開発が進む中で、性別分類のニュアンスとバイアスの影響を理解することが、すべての人々のより包括的な未来を実現するために重要です。