ファウンデーションモデルの透明性の必要性

ファウンデーションモデルは社会に大きな影響を与える重要な技術だよ。このモデルがどのように開発されて使われているのかをみんなが知るためには、透明性がめっちゃ大事。そこで、ファウンデーションモデルの透明性レポートを作ることを提案するよ。これはソーシャルメディア企業の報告プラクティスを参考にしてるんだ。

これらのレポートの目的は、ファウンデーションモデルに関する明確で役立つ情報を提供すること。ソーシャルメディアの透明性レポートが社会的な問題に応じて出てきたのに対して、私たちはこの分野がまだ発展中の今、ファウンデーションモデルのために似たようなプラクティスを確立することを目指しているんだ。ソーシャルメディア報告でうまくいったことやうまくいかなかったことに基づいた6つのガイドラインをまとめたよ。

これらのレポートを作るために、Foundation Model Transparency Indexを参照していて、100の重要な指標が含まれているんだ。この指標がEU AI法やアメリカのAIに関する大統領令などの政府の重要なポリシーの透明性要件とどれだけ合致しているかもチェックしてる。しっかりした透明性レポートがあれば、企業はコストを抑えるのに役立つかも。世界中の多くの規制が似たような情報を要求しているからね。

G7やホワイトハウスみたいなグループが奨励しているように、ファウンデーションモデルの開発者が定期的にこうした透明性レポートを公開することを推奨してる。今のところ、ファウンデーションモデルのエコシステムは透明性が欠けていて、OpenAIやGoogleみたいな主要企業の公的な説明責任は低いんだ。

ソーシャルメディアプラットフォームも昔は似たような問題を抱えていて、透明性レポートを発表し始めたんだ。この15年で、多くのインターネットや通信会社がユーザーの利用やガバナンスの実践を詳述した公開レポートを出すことを選んだ。これが業界の標準プラクティスになったよ。

EUもデジタルサービス法を通じて透明性を要件にしていて、オンラインプラットフォームに定期的な透明性レポートの発行を義務付けてる。ファウンデーションモデルの業界が成長するにつれて、政府も透明性を改善するための似たような手段を検討してる。

例えば、アメリカではファウンデーションモデルに関する標準的な公開報告を義務付ける新しい法律が提案されている。これはAI技術の使用と影響に関する透明性の必要性を強調してる。

同様に、EU AI法はトレーニングデータやリスク管理などの透明性要件を定めている。他の国、例えばカナダやイギリスもAI技術の透明性を改善するための対策を提案しているよ。

ファウンデーションモデルのエコシステムの透明性のギャップを埋めるために、標準化されたファウンデーションモデルの透明性レポートを作成することを提案する。これらのレポートは、開発者が定期的に更新すべき必要な情報を提供するものであるべきだよ。

企業が報告する内容を標準化することで、関係者が必要な情報に簡単にアクセスできたり、異なるモデルを比較できるようになる。私たちのレポートはG7の推奨や、透明性を高めるために企業が行った約束に基づいているよ。

今のところほとんどのファウンデーションモデルの開発者は、自分たちのプラクティスについて明確な情報を提供していないから、これが混乱を招いて関係者が技術を理解するのが難しくなってるんだ。私たちのレポートは、何が含まれているか、どのように整理するかの明確な期待を設定するよ。

現在の透明性要件でも、しばしば明確さが欠けていて、開発者が何を報告すべきかが具体的に示されていないんだ。だから、私たちのレポートは必要な情報のための明確な枠組みを示して、サプライチェーン全体にわたる多様なプラクティスを含むよ。

他の業界の透明性の仕組みを見つめることで、ファウンデーションモデルにとって貴重な教訓を得られるんだ。例えば、いろんな分野の多くの企業はすでに自分たちの運営を文書化したレポートを作成することが求められていて、これらのレポートは説明責任を確保するのに役立っているよ。

要するに、私たちの目標はファウンデーションモデルの開発者がもっと透明性を持てるよう助けて、政府にはポリシーを通じて透明性を促進するための道具を提供することなんだ。

#ソーシャルメディア透明性レポートの背景

過去20年のソーシャルメディアプラットフォームの成功は、どれだけ変革的な技術が社会を形作るかを教えてくれるよ。ソーシャルメディアが広まるにつれ、誤情報やプライバシーの懸念など、多くの課題に直面してきたんだ。

これらの問題は、ケンブリッジ・アナリティカのスキャンダルやミャンマーのロヒンギャコミュニティへの暴力などを通じて明らかになった。こうした深刻な社会的害が、ソーシャルメディア企業にもっと明確に運営方法やユーザーデータの管理について説明する必要性を強調したんだ。

この問題に対処するために、ソーシャルメディア企業は透明性レポートを発表し始めて、ユーザー活動や法的要請に関連したさまざまな指標を追跡している。2010年以降、多くのプラットフォームがこのプラクティスを採用し、公共の圧力に応じて情報の取り扱いについてユーザーを安心させる方法として使われているよ。

例えば、Googleは、コンテンツ削除のためにどれだけの政府の要請を受けたか、その理由を記載したレポートを公開し始めた。他のプラットフォームもその後、これに続いて透明性報告が大幅に増加したんだ。

これらのレポートは、一般的にユーザー情報の要求、削除要求、知的財産の執行、ポリシーの執行などのいくつかのカテゴリに分かれている。ソーシャルメディア企業は主にユーザーのプライバシーを保護することに焦点を当てつつ、彼らのプラクティスに関する公共の懸念に対処しているよ。

透明性レポートを作成する企業が増える中で、これらのレポートを評価し、効果や徹底度に基づいてスコアをつける組織も登場した。この評価は、企業が透明性に対する約束を果たすための注目を高める結果となったんだ。

しかし、これらの進展にもかかわらず、企業が自分たちのプラクティスを報告する方法には多くのギャップや不整合が残っている。異なるソーシャルメディアプラットフォームは似たような情報を異なる方法で報告することが多く、意味のある比較をするのが難しくなってる。

近年、透明性報告はさまざまな業界で一般的な期待となり、公共からのより良い説明責任の要求によって推進されている。EUのデジタルサービス法（DSA）は、大規模なオンラインプラットフォームに対して明確で詳細な透明性レポートを提示することを義務付ける画期的な規制だよ。

DSAは、プラットフォームが情報を開示する方法に関する具体的な基準を設定していて、コンテンツモデレーションの実践から運営に利用されるリソースまで多岐にわたる。明確さを求めるこの規制は、ユーザーや関係者に対してプラットフォームがどのように責任を管理しているかをよりよく理解させることを目指しているんだ。

#ファウンデーションモデル透明性レポートの設計

効果的なファウンデーションモデル透明性レポートを作成するために、私たちは6つの重要な原則に焦点を当てている。これらの原則は、ソーシャルメディア透明性レポートの強みと限界に基づいているよ。

まず、統合と集中が重要。レポートは情報を一箇所にまとめて、関係者が必要なものを見つけやすくするべき。レポートは必要な情報を強調する明確な構造を持っていて、ユーザーが持つ具体的な質問に答える形になるべきだよ。

次に、透明性レポートは様々な関係者が情報を解釈するための文脈を提供するべき。ユーザー、研究者、開発者みんながデータの背後にある方法やプラクティスを理解するのに役立つ。

それから、独立した仕様が大事。開発者が自分たちのレポートに何を含めるかを決めるのではなく、統一されたインジケーターのセットが必要だ。これにより、みんなが同じカテゴリの情報を共有することになり、比較が簡単になるよ。

標準化も大切な原則。レポートは一貫したフォーマットに従って、ユーザーが提供される情報を簡単にナビゲートして分析できるようにすべき。これが異なるファウンデーションモデル間の比較を促進する手助けになるんだ。

最後に、明確な方法論が必要。開発者は統計を計算したり、特定の要因を評価した方法を説明するべき。この明確さがないと、関係者がレポートに示されている情報を信頼するのが難しくなるからね。

これらの原則を適用することで、様々な関係者にとって有益で情報に満ちた透明性レポートをデザインできることを目指してる。これらのレポートは、ファウンデーションモデルの開発、運営、影響に関する洞察を提供することを目指すべきだよ。

#ポリシーの整合性

世界の複数の政府ポリシーには、ファウンデーションモデル開発者に対する透明性要件が含まれている。これらのポリシーを調べることで、私たちの透明性レポートのインジケーターとどのぐらい整合性があるかを確認できるよ。

私たちは、関連する透明性要件を含む6つの主要なポリシーを特定した。例えば、EU AI法は、AIシステムがどのように文書化されるべきかのルールを示していて、透明性やリスク管理についての具体的な開示を要求しているんだ。

同様に、アメリカのAIに関する大統領令は、AI業界における透明性の重要性を強調していて、企業にファウンデーションモデルに関連するプラクティスやリスクを開示することを義務付けている。他の国、例えばカナダやイギリスもAIの透明性を促進するポリシーに取り組んでいるよ。

透明性要件を確立することで、ファウンデーションモデルの開発者が政府の規制に自分たちのプラクティスを整合させるのを助けられる。そうすることで、法的義務を果たすだけでなく、より説明責任を持つことで公共の信頼を得ることができるよ。

しかし、現在の多くのポリシーは、透明性のすべての側面を扱うのに必要な具体性に欠けている。私たちの作業は、開発者が報告できる明確なインジケーターを定義することでこれらのギャップを埋めることを目指しているんだ。

#透明性レポートエントリの例

ファウンデーションモデル透明性レポートをどう構成すればいいかを開発者に理解してもらうために、リーディングファウンデーションモデル企業の既存のプラクティスに基づく例を提供するよ。

例えば、データサイズの報告では、Hugging FaceのBLOOMZモデルが3630億トークンでトレーニングされたことを示しているよ。そして、ROOTSやxP3がデータソースで、さらなる詳細のために関連する論文を参照するように読者に指示している。

また、労働プラクティスに関する情報の例として、OpenAIのGPT-4は、公正に労働者を報酬し、不快なタスクからオプトアウトできるようにし、労働者の健康を調査することへのコミットメントを詳述している。このレベルの透明性は、公共との信頼を高める助けになるよ。

環境への影響に関しては、MetaのLlama 2モデルがエネルギー消費や二酸化炭素の排出に関する情報をユーザーに提供している。こうした開示は、関係者がファウンデーションモデルの開発と展開の広範な影響を理解するのに役立つよ。

#結論

ファウンデーションモデルの急速な成長と社会への影響が増す中で、透明性の重要性はとても大事だよ。標準化された透明性レポートを採用することで、開発者は関係者や政策決定者に重要な情報を提供できる。

これらのレポートがファウンデーションモデルに対する信頼を築いて、技術が進化し続ける中での説明責任を確保する助けになるはずだ。特にソーシャルメディアの過去の経験から学ぶことで、エコシステムに関わる皆に利益をもたらす透明性の文化を育てられるようにしたいんだ。