ソーシャルプラットフォームでのバイアスのあるニュースコミュニティの特定

Redditみたいなソーシャルニュースサイトは、人々がニュースをシェアしたりディスカッションしたりする大事な場所になってるんだ。でも、こういうサイトの大きな問題は、自分の信念に合ったニュースしか見えないグループができちゃうこと。これが原因で、信頼性のないニュースやすごく偏ったニュースがシェアされることが多い。この研究では、ソーシャルニュースサイトで信頼性の低いニュースや偏ったニュースをシェアする可能性が高いコミュニティをどうやって見つけるかを考えてるんだ。

私たちは、ユーザーが異なるニュース投稿やそのソースとどうやってインタラクトするかを見ていく方法を使うよ。ユーザーのニュースに対する意見や態度を分析することで、質の低い情報を信じたりシェアしたりする可能性が高いグループを特定できるんだ。この方法で、低信頼性のコンテンツに関わるリスクがあるユーザーも特定できる。実験から、ユーザーのグループによって信頼性の低いコンテンツや政治的に偏ったニュースに対する感受性に大きな違いがあることがわかったよ。

RedditやDiggみたいなソーシャルニュースサイトは、情報をシェアしたりアクセスしたりする主要なプラットフォームになってる。こういうプラットフォームは、ユーザーが自分の意見を表現したりニュース記事について話し合ったりする空間を提供してる。これらのサイトは最小限の検閲でいろんなソースからのニュースをホストできるようになってるから、多くの人がニュースのソースとしてRedditに頼るようになったんだ。

でも、ソーシャルニュースサイトのオープンな性質は、信頼性がないニュースや偏ったニュースの拡散を助長することもあるんだ。たとえば、Redditの中で最大の政治ニュースコミュニティであるr/politicsでは、シェアされたソースの半分以上が検証できないものだよ。この検証できないニュースの拡散は、ユーザーがすでに同意しているコンテンツを押し出すレコメンデーションアルゴリズムによってさらに強化され、既存の信念を深めることになっちゃう。これは、いくつかのグループが誤解を招く情報や偏った情報にさらされる環境を作り出し、混乱や極端な対立といった社会問題につながる可能性があるんだ。

Redditの政治系サブレディットでこの例を見ることができる。以下の表は、いくつかのサブレディットにおける検証不能な投稿の割合をまとめたものだよ：

信頼性の低いニュースや偏ったニュースの拡散を検出して対処することは、重要な研究分野だよ。多くの高度な方法がディープラーニングを使って信頼できないニュースソースを特定するために開発されてきたし、この目的のために大規模な言語モデルを利用する傾向もあるんだ。一部の研究では、こうしたコンテンツを広めるユーザーを見つけることにも焦点を当てていて、より良いモデレーション戦略が可能になるんだ。

私たちの研究は、信頼性の低いニュースや偏ったニュースをシェアしたり信じたりする可能性が高いコミュニティを特定することに焦点を当てることで、異なる視点を提供しているよ。私たちは、コミュニティを同じような意見を持ち、ニュース記事に対して似た反応を示すユーザーのグループとして定義している。私たちのアプローチは、ユーザーコメントに基づいてユーザーの埋め込みを作成することを含むので、これによりこれらの埋め込みとユーザーが信頼性の低い情報や偏った情報に関与する可能性の関係を分析できるんだ。

事前にトレーニングされた文の埋め込みモデル、特にsentence-BERT（SBERT）という方法を使っていて、これがユーザーコメントをクラスタリングしてユーザーの意見を理解するのに役立つんだ。ただ、ユーザーが関与するコンテンツから意見の埋め込みを導出する明確なガイドラインはないんだよ。従来の方法では、ユーザーがインタラクトする投稿の埋め込みを平均化するんだけど、ユーザーごとの投稿数が限られているため、効果的でないことがあるんだ。

この課題を克服するために、共有されたニュースソースではなく、ユーザーのコメントからユーザーの埋め込みを導出することにしたんだ。これにより、より大きなデータセットが得られ、潜在的な空間表現を作成する際の変動性を減らすのに役立つよ。ユーザーのコメントを元のニュース投稿に関連付けて考慮することで、ユーザーの興味や見解を反映したより正確な埋め込みを作成できるんだ。

私たちは、この方法をRedditの実データに適用するよ。ユーザーは特定の興味グループであるサブレディットを通じて投稿やコメントでディスカッションに参加している。ユーザーを埋め込んだ後、コミュニティを特定し、その信頼性や偏りの分布を探るんだ。

ニュースソースの信頼性や偏りを決定することは、個人的なバイアスによってしばしば影響を受けることがあるんだ。私たちの研究では、誤情報に対抗することを目的とした公共利益法人からのデータセットを使うよ。このデータセットには、さまざまなニュースソースの信頼性と偏りのスコアが含まれていて、これらのスコアをこれらのニュースソースを参照するRedditの投稿に割り当てて、検証可能または検証不可能として分類するんだ。

#関連研究

#文の埋め込み

文の埋め込みは、ソーシャルニュースコンテンツの自動分析を可能にする方法だよ。初期のモデルは複雑なアーキテクチャに依存していたけど、現代のアプローチは事前にトレーニングされたトランスフォーマーベースのアーキテクチャを使っているんだ。この分野における重要な進歩の一つは、SBERTの導入で、これが従来のモデルを改善することで効率的に埋め込みを生成している。この研究では、Redditの投稿の埋め込みにSBERTアーキテクチャを使っているよ。

#スタンス検出

スタンス検出は、特定のターゲットに対するテキストの感情を分類することを含んでいるんだ。私たちはスタンス検出を使ってユーザーのコメントを理解し、好意、反対、なしの3つのカテゴリに分類している。この分類によって、ユーザーが異なるニュース投稿に対してどのように反応するかを理解できるんだ。

これを実現するために、LLaMa-2-7bという大規模な言語モデルを使ってユーザーコメントをカテゴライズするよ。このモデルをRedditからのコメント-返信ペアのデータセットに基づいてファインチューニングすることで、スタンス検出のパフォーマンスを向上させることができるんだ。

#ユーザープロファイリング

ユーザープロファイリングは、各ユーザーにさまざまな特徴（興味や行動など）を組み込んだ仮想的な表現を割り当てることなんだ。多くの研究が、ユーザープロファイリングがどのように虚偽のニュースシェアを検出できるかを分析してきたよ。私たちのアプローチは、個々のユーザーに注目するのではなく、ユーザーコミュニティに焦点を当て、これらのコミュニティが信頼性の低いニュースや偏ったソースからのニュースにどのように関与しているかを特徴づけることに違いがあるんだ。

#ユーザー埋め込み

私たちは、高次元空間にユーザーを埋め込む方法を導入するよ。このプロセスは、ニュース投稿にSBERT文埋め込みを割り当てることから始まり、その後、元の投稿に対するスタンスに基づいてコメントに埋め込みを割り当てるんだ。各ユーザーからのすべてのコメントの埋め込みを平均化することで、彼らの興味や意見を反映する単一の表現を作成するんだ。

投稿の埋め込みを集めるために、事前にトレーニングされたSBERTモデルを使用して、投稿タイトル全体をエンコードするよ。これらの埋め込みは、コメント埋め込みを推定するためのコンテキストベースとして機能するんだ。

#スタンス検出の方法論

コメントの文脈におけるスタンス検出は、子のテキストが親のテキストにどう関連しているかを特定することを含んでいるよ。私たちはスタンスを好意、反対、なしに分類し、これらのスタンスをファインチューニングされたLLaMa-2-7bモデルを使って分類して、ユーザーが特定のニュース投稿にどのように反応するかを理解するんだ。

#コメント埋め込みプロセス

コメントを正確に埋め込むために、元の投稿のコンテキストを考慮するよ。コメントはしばしば独立した完全な文を欠いていることが多いから、投稿の埋め込みに依存して、各コメントに意味のある表現を割り当てるんだ。私たちの方法では、コメントの埋め込みがユーザーの意見を正確に反映するように確保しているんだ。

#信頼性と政治的バイアスの分析

ユーザー埋め込みを取得した後、私たちはユーザーグループの分析を行い、平均的な信頼性と政治的バイアススコアを把握するよ。平均プーリングを使って、ユーザーが信頼できるニュースソースや偏ったニュースソースにどのように関与しているかを評価することができるんだ。

ユーザーの投稿に関連して参照されたニュースソースに基づいて信頼性スコアを割り当て、先に述べたデータセットを参考にするよ。コメントは親投稿との関係に基づいて信頼性が割り当てられるんだ。

#コミュニティの感受性

ユーザーの信頼性やバイアススコアが得られたら、ユーザーグループの特性を分析できるよ。サブレディットのメンバーシップに頼るのではなく、クラスタリングを使って異なる興味グループを特定することで、ユーザーの行動や潜在的なバイアスをより明確に理解できるようになるんだ。

#データ収集

この研究で使用したデータは、Redditから取得したもので、主に4つの主要な政治的サブレディット（r/Conservative、r/Libertarian、r/Republican、r/democrats）に焦点を当てているよ。無関係または低品質のデータをフィルタリングすることで、信頼できるユーザーインタラクションに基づいた研究を確保しているんだ。

#結果

私たちの発見は、信頼性の低いニュースに対するユーザーコミュニティ間の顕著な違いがあることを示しているよ。たとえば、あるコミュニティは他のコミュニティの3倍も信頼性の低いニュースに関与しやすいことがわかった。分析から、ユーザーの政治的バイアスと信頼性スコアの間に相関関係があることも示されているんだ。

ユーザーを潜在的な埋め込みに基づいてクラスタリングすることで、偏ったり信頼性の低いニュースに対する感受性の異なるコミュニティを区別することができるんだ。

#議論

この研究は、オンラインコミュニティがニュースコンテンツとどのようにインタラクトしているかを理解することの重要性を強調しているよ。結果は、ユーザークラスタリングが異なるグループがどのように偏ったり虚偽の情報を広めるかについて重要な洞察を明らかにできることを示唆している。一部のコミュニティでは、ユーザーが自分の信念を強化するニュースを主にシェアするエコーチャンバーの兆候が見られたんだ。

#限界

信頼性やバイアスを評価するために1つのデータセットに依存することには限界があるよ。また、ユーザーのインタラクションを通じてユーザーの信頼性を定義することは、政治的見解や好みに関連する微妙な行動を見落とす可能性がある。これらの考慮事から、今後の研究でユーザー信頼性の評価を改善する必要があることが動機づけられるんだ。

#今後の研究

今後の研究では、データセットを拡大し、ユーザーの信頼性やバイアスを評価する方法を洗練させることに焦点を当てるべきだね。さらに、ユーザーコメントの内容を含めたり、グラフベースの方法を探ったりすることで、ユーザーがニュースソースとどのように関与しているかについてより豊かな洞察が得られるかもしれないんだ。

#結論

この研究は、ソーシャルニュースサイトにおけるユーザーインタラクションを分析するための新しいパイプラインを提案しているよ。ユーザーのコメントと投稿から埋め込みを導出することで、ユーザーコミュニティが信頼性の低いニュースや非常に偏ったニュースソースに対する感受性によって特徴づけられることを示しているんだ。私たちの研究は、オンラインプラットフォームでの誤情報やバイアスの拡散に対抗するためにコミュニティのダイナミクスを考慮する必要があることを強調しているよ。