Twitterでの誤解を招くプロフィールの見分け方

ソーシャルメディアはコミュニケーションの大きなプラットフォームになったけど、誤解を招くコンテンツや有害な行動の問題も抱えてる。一部のアカウントは「オーミッションプロファイル」って呼ばれて、特定のトピックで誤解を招く情報や有毒なコメントを広めてる。この研究は、Twitter上でこれらのプロファイルを特定し、特に彼らがどのようにさまざまなテーマを使って本当の意図を隠すかを理解することに焦点を当ててる。

#影響操作の台頭

最近、ソーシャルメディアでの議論を操るための多くの努力があった。いくつかのグループは、個人をスポンサーしたり、自動化されたアカウントを使って、分極化したり嘘の素材を共有したりしている。これらの「影響操作」は、特に選挙や危機の間に人々の考えや感じ方を変えることができる。これらのケースの多くは、信頼性を高めるために一緒に行動する小さなグループが関与してる。

これらの問題のあるアカウントを特定するのは難しいことが多い。彼らはしばしば、主なアジェンダとは無関係な日常の議論に関わっているから。だから、普通のユーザーの中で彼らを見つけるのが難しくなっている。事前の知識に頼らず、これらの操作されたアカウントを検出するためのより良い方法が必要だ。

#「オーミッションプロファイル」の特定

この研究は、有害なコンテンツを共有するパターンを持つTwitter上のプロファイル、つまり「オーミッションプロファイル」を調べてる。何千ものアカウントとツイートを研究することで、これらのプロファイルをトピックの多様性や生成する有毒なコンテンツの量に基づいてグループ化することを目指してる。

大規模なTwitterアカウントとそのツイートのデータセットを使用して、彼らが話すさまざまなトピックを分析する。多様なトピックを持つプロファイルは、政治、健康、ニュースに関連した有毒なツイートを生成しがちだ。これは彼らが影響操作に関与している可能性を示唆している。

#分類器の構築

これらのオーミッションプロファイルを特定するために、一般のアカウントと疑わしい行動を示すアカウントを区別するツールである分類器を開発してる。特定のモデルを使用して、彼らのコンテンツや活動パターンに基づいてこれらのプロファイルを検出する精度が非常に高い。

この分類器は、最もテーマ的に多様なプロファイルで訓練されていて、新しいラベルのないデータでも機能するように設計されてる。テストでは完璧な精度を達成し、野生でのオーミッションプロファイルを見つけるのに役立ってる。

#データ収集

必要なデータを集めるために、Twitterでの行動に焦点を当てた多数の公開データセットから情報を集めてる。合計で143,000のプロファイルIDを収集し、それぞれの過去のツイートデータを集めた。これによって、数年間にわたる2億9300万ツイートにアクセスでき、それぞれのアカウントのさまざまな側面を分析することが可能になる。

このデータには、ツイートの内容だけでなく、名前やフォロワー数など、プロファイルに関するさまざまな詳細も含まれてる。この包括的なデータが、影響操作を示唆するパターンを特定するのに役立つ。

#トピックの理解

これらのプロファイルが共有しているコンテンツを理解するために、トピックモデリングを利用してる。これは、ツイートをその内容に基づいて異なるカテゴリーやテーマに分類することを含む。政治、健康、一般ニュースなど、プロファイルのツイートから浮かび上がるいくつかの主要なテーマを特定してる。

ツイートを分類することで、異なるプロファイルがどのようにコンテンツを共有するかを検証できる。特定のテーマに焦点を当てて、これらの分野でより多くの有毒なコンテンツを生成するプロファイルもあり、議論を操る可能性を明らかにする。

#テーマ的多様性と有毒性

私たちの研究の重要な発見の一つは、テーマ的多様性がプロファイルのツイートの有毒性のレベルに関係していることだ。より多様なトピックを扱うプロファイルは、より有害なコンテンツを生成する傾向がある。さまざまなテーマにわたるツイートの有毒性を分析することで、影響操作に関与している可能性が高いプロファイルを特定できる。

私たちは、各プロファイルについて、彼らが扱うトピックの範囲に基づいて多様性の尺度を計算する。多様性スコアが高いプロファイルは、しばしば有毒な行動パターンを示し、誤情報や分極化したコンテンツを広める潜在的なアジェンダを示している。

#活動パターン

もう一つの側面は、これらのプロファイルがどのくらいの頻度でツイートするかだ。彼らのツイートのタイミングを調べることで、定期的なパターンに従っているか、散発的にツイートしているかを判断できる。突然の活動のバーストでツイートするプロファイルは、特定の時間に議論を影響するための協調した努力を示すかもしれなくて、より真摯なプロファイルはもっと均等にツイートする傾向がある。

私たちは、オーミッションとして特定された多くのプロファイルが、不規則なツイートパターンを示し、アクティブなエンゲージメントの印象を作るためにバーストで投稿していることがわかった。これが彼らのアジェンダを押し進めつつ、検出を避けるのに役立つ。

#プロファイルの特徴

各プロファイルに関連するメタデータも見てる。これはフォロワー数や、彼らがフォローしているアカウントの数、プロフィール作成日などのデータを含む。これらの特徴は、本物のユーザーと操作的な方法で行動している可能性のあるユーザーを区別するのに役立つ。

フォロワーとフォローしているアカウントの比率が異常に高いプロファイルや、最近作成されたプロファイルはボットのような行動を示すかもしれない。これらの特徴をさまざまなプロファイルグループにわたって分析して、有毒コンテンツの存在との関連を理解しようとしてる。

#ケーススタディ：グループ分析

このセクションでは、テーマ的多様性に基づいてグループに分けられたプロファイルを分析してる。例えば、政治に焦点を当てるグループもあれば、健康やエンターテイメントについての議論に参加するグループもある。これらのプロファイルが、主なテーマに基づいてどのように異なるコミュニケーションを取るのかを見ようとしてる。

クラスタを調べることで、どのグループが有毒なコンテンツを生み出しやすいか、彼らの投稿行動がどのように異なるかを理解できる。この分析は、Twitter上でオーミッションプロファイルがどのように機能するのかをより深く理解する手助けになる。

#結論

この研究は、ソーシャルメディアプラットフォームでの偽情報や有害な情報の拡散がどのように機能するかに関する貴重な洞察を提供してる。オーミッションプロファイルを特定することで、影響操作における戦術やこれらのプロファイルの行動をよりよく理解できる。

ソーシャルメディアが公共の認識を形成する上で重要な役割を果たし続ける中、これらの操作的な戦術を特定し理解することが、誤情報と戦うためには不可欠になる。私たちの発見は、普通さの仮面をかぶりながらアジェンダを推進するプロファイルを捕まえるために、コンテンツの多様性と有毒な行動の重要性を強調している。

効果的な検出ツールを作ることで、ユーザーにとってより安全で信頼できるソーシャルメディアプラットフォームを目指す努力に貢献したい。今後の作業では、私たちの方法を洗練させ、さまざまなソーシャルメディアプラットフォームで似たような影響操作を特定できるようにすることを探る予定だ。