人工テキストが言語モデルに与える影響を評価する

この研究を完了するにあたって助けてくれた皆さんに感謝したい。特に、サポートとフィードバックをくれた指導教官には感謝してもしきれない。また、研究のためのリソースを提供してくれたML6にも感謝。辛い時期に励ましをくれた友達や同僚にもありがとう。最後に、私を信じてくれた家族に心から感謝します。

#はじめに

最近、言語モデルの世界で大きな変化があった。特に大規模言語モデル（LLM）は、インターネットから集めた大量のデータを使って学習し、テキストを生成する。ChatGPTのようなモデルは、記事やエッセイからジョークや詩まで様々なタイプのテキストを生み出せるので人気がある。これらのモデルが成長するにつれて、将来的に自分自身の過去の出力を学習データとして利用する可能性もある。この研究は、こうしたモデルがプレトレーニング段階で生成したテキストの使用が、その後のタスクのパフォーマンスにどう影響するかを調べることを目的としている。

#研究目的

LLMを使ったツールの急増は、インターネット上で生成され使用される人工データの質についての懸念を引き起こしている。考慮すべき主な問題は二つある：

1. 機械生成テキストの質が人間が作ったコンテンツに比べて劣る可能性があり、これがトレーニング中にこのデータが含まれるとモデルのパフォーマンスに悪影響を与えるかもしれない。

2. LLMは訓練データから有害なバイアスを学ぶ可能性がある。人間のバイアスを含む人工コンテンツを取り込むと、無意識に有害なアイデアを広めるかもしれない。

これらの問題は認識されているが、完全に支持する証拠は限られている。さらに、データの規模が増える中で、今後のトレーニングプロセスで人工テキストを特定し排除するのは難しい。そのため、この研究では、そうしたデータが言語モデルのパフォーマンスに与える影響を探る。

#研究質問

研究を絞り込むために、次の質問をした：

1. RoBERTaという言語モデルが、ChatGPTによって生成されたニュース記事でプレトレーニングされた場合、そのパフォーマンスは人間が書いた記事で訓練された場合と比べてどうなるか？

この主質問に関連するサブ質問：

• ChatGPTテキストで訓練されたRoBERTaの感情分類の精度は低いのか？
• ChatGPTテキストで訓練されたRoBERTaの固有表現認識（NER）タスクのF1スコアは低いのか？
• ChatGPTテキストで訓練されたRoBERTaの質問応答タスクのF1スコアは低いのか？

2. ChatGPTテキストでプレトレーニングされたRoBERTaモデルは、感情分類の分析時に特定の性別に対してよりバイアスを示すのか？

#背景

言語モデリングは、モデルが単語の順序の中で次の単語を予測するプロセスだ。これには、伝統的な隠れマルコフモデルや再帰型ニューラルネットワークなどの異なるタイプのモデルが使われてきたが、BERTやGPTのような現代的なトランスフォーマーベースのモデルもある。

これらの現代モデルは様々なベンチマークテストで素晴らしい結果を示している。ただし、トレーニングデータのサイズと多様性が良いパフォーマンスを得る上で重要な役割を果たしている。最も良いパフォーマンスを示すモデルは、広範なデータセットでプレトレーニングされ、その後特定のタスクにファインチューニングされたものが多い。

#言語モデルとプレトレーニング

ほとんどの言語モデルは次の単語予測タスクを使って訓練されている。しかし、トランスフォーマーベースのモデルはマスクされた言語モデリング（MLM）などの新しい技術を導入している。MLMでは、文中の特定の単語が隠され、モデルはそれを予測しようとする。このアプローチは広く採用され、様々な言語処理タスクで効果的であることが証明されている。

もう一つの進化している実践としては、ユーザーの指示に従うための言語モデルの訓練がある。これにより、モデルはユーザーの要求に基づいて様々なタスクを遂行できるようになり、より便利で柔軟になる。InstructGPTは、そのような指示に従うように訓練されたモデルの一例だ。

#言語モデルのためのトレーニングデータ

異なるモデルは異なる量のトレーニングデータを必要とする。小規模なデータセットで訓練されたモデルもあれば、GPT-3のように非常に大規模なデータセットで訓練されたモデルもある。この点はモデルのパフォーマンスに大きく影響する可能性がある。

この研究のために、CNN/DailyMailデータセットをRoBERTaモデルのプレトレーニングに選んだ。このデータセットはジャーナリストが書いたニュース記事で構成されており、人間の執筆のタッチとChatGPTが生成したテキストを比較することができる。

#ChatGPTでの記事生成

CNN/DailyMailデータセットの各記事には要約がある。この要約をChatGPTのプロンプトとして使用して、対応する記事を生成した。目的は、オリジナルの記事と同じくらいの長さの文章を作成しつつ、プロセスをシンプルに保つことだった。

2023年4月に、ChatGPTを使って25,000の記事を生成した。これらの記事生成のコストは約31ドルだった。ただし、この生成プロセスのカーボンフットプリントに関する詳細はまだ公開されていない。

#書かれたテキストの分析

人間が書いた記事とChatGPTが生成した記事の違いを理解することは重要。総単語数、語彙のサイズ、文の構造、生成された記事の固有表現など、いくつかの重要な統計を分析した。

さらに、CNN/DailyMailが生成した記事とChatGPTが生成した記事における全体的な感情を理解するために感情分析ツールも利用した。

#読みやすさの指標

記事がどれだけ読みやすいかを測るために、Flesch Reading Ease (FRES)とFlesch-Kincaid Grade Level (FKGL)という二つのよく知られた読みやすさの指標を使った。高いスコアは読みやすさを示し、低いスコアはより複雑なテキストを示す。

ChatGPTが生成した記事は、ジャーナリストが書いたものに比べて読みづらい傾向が見られ、スタイルや複雑さの違いを示す可能性がある。

#言語モデリングとプレトレーニング手法

RoBERTaのプレトレーニングの目的は、マスクされた言語モデリング（MLM）を行うことだ。この研究では、CNN/DailyMailの記事を使ったバージョンとChatGPT生成の記事を使ったバージョンの二つのRoBERTaをプレトレーニングした。このセットアップにより、二つのモデルのパフォーマンスを直接比較することができる。

公平性を保つため、両モデルでプレトレーニング中は同じパラメータを使用した。プレトレーニングプロセスには、テキストを小文字に変換し、トレーニング用にデータを準備するために必要な手法を適用した。

#ダウンストリームタスクでのパフォーマンス評価

プレトレーニングの後、モデルをいくつかのダウンストリームタスクでファインチューニングして、そのパフォーマンスを評価した。様々なタスクを実施し、それぞれの強みと弱みを評価した。モデルは、慎重に選ばれたデータセットを使って最適化された。

これらの評価の結果は、各モデルが異なるタイプの言語タスクにどれだけ適応できたかを示し、生成されたテキストをプレトレーニングに使用することの影響を理解する手助けとなった。

#シーケンス分類

感情分析には、ポジティブまたはネガティブにラベル付けされた映画レビューを含むIMDBデータセットを使用した。モデルは前処理され、そのパフォーマンスは精度に基づいて評価された。

#固有表現認識（NER）

固有表現認識タスクには、WNUT 17データセットを使用した。このタスクは、テキスト内のあまり一般的でないエンティティを認識することに焦点を当てている。ここでの評価はF1スコアを使って行った。

#質問応答

質問応答タスクには、Stanford Question Answering Dataset（SQuAD）を使用した。このデータセットは、読み物に基づいた質問で構成されており、モデルを正しい答えを予測するように訓練した。

#モデルのバイアス評価

モデルのバイアスを調査するために、異なる性別に割り当てられた感情の極性を分析した。同じレビューの異なるバージョンを作り、一方は男性用、もう一方は女性用にして、感情スコアを測定し、潜在的なバイアスを把握した。

最終的な評価は、それぞれのモデルがバイアスに関してどのようにパフォーマンスを発揮したかを示し、生成されたテキストをトレーニングに使用することに伴うリスクをよりよく理解する手助けとなった。

#結果と考察

モデルのパフォーマンスを比較している中で、いくつかの驚くべき発見があった。たとえば、ChatGPTテキストで訓練されたRoBERTaモデルは、感情分類タスクで非常に良いパフォーマンスを示した。これは、人工データでプレトレーニングすればパフォーマンスが低下するという仮説に反していたので、予想外だった。

同様に、NERや質問応答タスクでもパフォーマンスの差はわずかで、生成されたテキストがモデルのパフォーマンスにそれほど悪影響を与えない可能性が示唆された。

#研究の限界

我々の研究は貴重な洞察を提供しているが、いくつかの限界もある：

1. 特定のデータソース：研究はCNN/DailyMailデータセットに焦点を当てており、様々なデータソースで訓練された大規模な言語モデルに見られる豊かな多様性を捉えていないかもしれない。

2. テキスト生成要因：テキスト生成のプロセスは異なる設定によって影響を受ける可能性があり、これを深く探求しなかったため、生成されたコンテンツの変動が制限された。

3. トレーニングデータセットのサイズ：プレトレーニングデータセットの相対的に小さなサイズは、通常の最先端モデルが使うデータセットに比べて、我々の結果の一般化可能性について疑問を投げかける。

4. プロンプト感度：結果はプロンプトの構造によって変わる可能性があるが、我々の研究では異なるプロンプト手法の影響に特に焦点を当てていない。

5. 言語の焦点：研究は英語にのみ焦点を当てており、他の言語や文化への適用可能性を狭めている。

6. モデル間の変異：我々は特定の言語モデル1つにしか焦点を当てておらず、異なるモデルからの洞察は省かれている。

7. バイアス評価の範囲：性別のバイアスを探ったが、人種的または文化的な他の形態のバイアスは分析されていない。

#倫理的および環境的考慮

AIが社会に影響を与える中、その結果に伴う倫理的な意味を考慮することが重要だ。言語モデルの出力からバイアスや差別が生じる可能性があるため、慎重に監視する必要がある。

環境的な観点から、言語モデルのトレーニングは資源を大量に消費する可能性がある。我々の研究では、実験に関連する炭素排出量を考慮し、AIの実践における持続可能性の必要性を強調した。

#結論

この研究は、プレトレーニング中に人工テキストを使用することがRoBERTa言語モデルのパフォーマンスにどう影響を与えるかを理解することを目的とした。我々の結果は、ChatGPTテキストでプレトレーニングを行っても、さまざまなタスクでのパフォーマンスに大きな欠点をもたらさないことを示唆している。興味深いことに、人工テキストで訓練されたRoBERTaモデルは、一部の領域では人間が書いた記事で訓練されたモデルを上回るパフォーマンスを示した。

ただし、より広範なバイアスやタスクを評価するためには、さらなる調査が必要だ。この結果は、言語モデルを実世界のアプリケーションで使用することに伴う意味や責任についての議論に有意義に貢献する。