Simple Science

最先端の科学をわかりやすく解説

# コンピューターサイエンス# 社会と情報ネットワーク# 計算と言語# コンピュータと社会

メンタルヘルスの誤情報:オンラインでの挑戦

動画プラットフォームでの誤解を招くコンテンツがメンタルヘルスの認知にどんな影響を与えるかを調べる。

― 1 分で読む


メンタルヘルスの誤情報と戦メンタルヘルスの誤情報と戦テンツの増加に対処する。誤解を招くオンラインのメンタルヘルスコン
目次

アメリカでは、5人に1人以上の大人がメンタルヘルスの問題を抱えてる。対面での専門家が少なくてリソースも限られてるから、多くの人がオンラインの短い動画にサポートや情報を求めてるんだ。これらの動画は助けになることもあるけど、間違った情報が広がるリスクもある。これは危険で、メンタルヘルスに関する誤った考えは自己診断の間違いや治療の遅れにつながる可能性がある。

この問題に対処するために、私たちはYouTubeやBitchuteのような人気の動画プラットフォームで、人々がメンタルヘルスの情報や誤情報にどのように関わっているかを調べた。私たちの研究では、MentalMisinfoという新しいデータセットを集めて、メンタルヘルスの誤情報に焦点を当てた動画やコメントを集めた。高度な言語モデルを使うことで、動画内の誤情報を効果的に検出できることがわかった。それに加えて、視聴者は誤解を招く内容に関わることで、メンタルヘルスに対するスティグマが悪化することも観察された。

メンタルヘルスと誤情報

多くの人がYouTubeやRedditのようなソーシャルメディアプラットフォームを通じてサポートを求めてる。これらのプラットフォームはコミュニティ感を作ることもあるけど、メンタルヘルスに関する有害な誤情報も広がってしまう。誤情報は、症状の悪化や助けを求めることに躊躇を引き起こすなど、深刻な問題を引き起こす可能性がある。これらのリスクがあるにもかかわらず、他の健康トピックと比べてソーシャルメディア上のメンタルヘルスの誤情報についての研究はほとんどない。

私たちの研究は、メンタルヘルスに関する誤情報がオンラインでどのように見られ、人々がそれにどう反応するかを調べることで、このギャップを埋めることを目指している。どのような誤解を招く考えが人気かを見て、誤情報とスティグマとの関連を探りたい。

研究の質問

私たちは、研究で以下の3つの主な質問に焦点を当てた:

  1. 誤解を招く動画に対するコメントは、正確な動画のコメントとどう違う?
  2. 人々は誤解を招く動画に対して、正確な動画と比べてより同意するのか、それとも同意しないのか?
  3. 誤解を招く動画のコメントは、メンタルヘルスの問題に対するスティグマを助長しやすいのか?

方法論

データ収集

私たちは、YouTubeとBitchuteという2つのプラットフォームのコンテンツを見た。YouTubeは広いオーディエンスを持つ有名な動画プラットフォームで、Bitchuteはより物議を醸すコンテンツを許可することで注目を集めている。特に短い動画に焦点を当てたのは、作成や視聴が簡単だから。

メンタルヘルスに関連するキーワードを使って動画を検索して、誤情報が含まれている可能性のある動画を見つけた。Bitchuteでは、5分未満の動画で、私たちのキーワードに合うものを集めた。

データクリーニング

次に、収集した動画が英語でメンタルヘルスに関連していることを確認した。求めていた内容に合わない動画は削除した。何千もの動画をフィルタリングした結果、分析用のしっかりとした選択肢ができた。

注釈

メンタルヘルスの誤情報を特定するための明確なガイドラインがなかったので、私たちは専門家の助けを借りて独自のシステムを作った。メンタルヘルスの誤情報とは、メンタルヘルスに関連すると主張しつつ、部分的または完全に虚偽の誤解を招く情報だと決めた。

選ばれた動画を専門のトレーニングを受けたプロが調べて、誤情報が含まれているかどうかを3つの主な基準(治療の正確性、医療的見解との一致、エビデンスに基づいた実践の促進)に基づいてラベル付けした。このプロセスで、私たちのデータセットの信頼性を保証できた。

エンゲージメント分析

ユーザーが動画にどのように関わっているかを、コメントを見て調べた。コメントの言語パターンを測定するツールを使って、単にコメント数や「いいね」を数えるのではなく、どのような言葉やフレーズが使われているかを分析した。

発見

コメントの言語パターン

私たちの分析では、人々が誤解を招く情報と正確な情報でどう関わるかに顕著な違いがあることがわかった。たとえば、誤解を招く動画のコメントにはリスクや死に関する言葉が多く含まれていた。一方、正確な動画のコメントは全体的な健康への関心が高かった。

男性のコメント者は誤解を招く内容に関わる可能性が高く、しばしば攻撃的な口調を使っていた。このことは、特定のステレオタイプに同一視する人々が誤情報を信じやすい可能性を示唆している。

さらに、誤解を招く動画のコメントには宗教的な言葉がかなり多く見られた。これは、一部の人々がメンタルヘルスについて議論する際に科学的情報ではなく、信仰に基づく見解に頼っている可能性を示している。

誤情報への同意

人々が誤解を招く内容に同意しているかどうかを見たところ、YouTubeユーザーは誤解を招く動画に対してはより反対する傾向があった。でも、Bitchuteでは逆の結果が出て、ユーザーは誤解を招く動画に同意することが多かった。これは、これらのプラットフォーム上でのユーザーの行動や信念に違いがあることを示唆している。

データによれば、両方のプラットフォームで誤解を招く動画のコメントの大部分が同意を含んでいて、誤情報の受容が進んでいるという厄介な傾向を示している。

メンタルヘルスに対するスティグマ

最終的な分析では、誤解を招く動画に対する反応にスティグマがどのように現れているかに焦点を当てた。誤解を招く動画のコメントは、正確な動画のコメントと比べて、メンタルヘルスに関して著しくスティグマの強い見解を示していた。これは、誤情報がメンタルヘルスの問題に対するネガティブな認識に寄与することを強調していて懸念される。

全体的に、私たちの研究の結果は、メンタルヘルスの誤情報に対処する緊急の必要性を強調している。有害なコンテンツへの大きなエンゲージメントは、プラットフォームが共有される情報を管理するためのより良い方法を見つける必要があることを示唆している。

推奨事項

プラットフォームデザインの改善

メンタルヘルスの誤情報に対抗するために、プラットフォームが誤解を招くコンテンツの可視性を制限するために行動を起こすことを勧める。これは、明らかに誤情報を広めている動画を削除することや、ユーザーが正確な情報を見つけるためのリソースを提供することを含む。

プラットフォームは、高度な言語モデルを活用して、誤解を招くコンテンツをより効果的に特定できるようにすることもできる。ただし、これらのモデルは完璧ではないので注意が必要。人間のモデレーターを併用することで、誤情報が正しく特定されるようにすることができる。

ユーザーのサポート

もう一つ重要なステップは、ユーザーが正確なメンタルヘルス情報を求めることを促すことだ。プラットフォームは、ユーザーを信頼できるメンタルヘルスサービスや組織に繋ぐリソースを提供することができる。メンタルヘルスの専門家に対して認定マーカーを導入することで、ユーザーが信頼できるコンテンツに導かれる手助けになる。

また、高品質なメンタルヘルスコンテンツの制作を促進するプログラムを作ることも不可欠だ。プラットフォームは、メンタルヘルスの専門家に正確な情報を共有することを奨励し、パートナーシップやインフォメーショナルな動画を制作するための報酬を提供することで支援するべきだ。

スティグマへの対処

最後に、メンタルヘルスに関するスティグマに対処する必要がある。これは、メンタルヘルスについてのオープンな議論を促進する教育キャンペーンを通じて実現できる。誤情報に反対する努力と組み合わせることで、メンタルヘルスに関する会話を普通のものにして、これらのトピックにしばしば伴うスティグマを減らすことができる。

制限と今後の研究

私たちの研究は貴重な洞察を提供するが、その限界も認識することが重要だ。私たちの研究は主に英語のコンテンツに焦点を当てているので、結果は他の言語や文化によって異なる可能性がある。今後の研究では、多様なコミュニティにおいてメンタルヘルスの誤情報がどのように認識され、対処されるかを探るべきだ。

さらに、若い聴衆に人気のあるプラットフォーム、例えばTikTokやInstagramにおける誤情報の広がりが、青年のメンタルヘルスにどのように影響を及ぼすかを調べることも有益だ。また、ユーザーと直接関わる研究を行い、メンタルヘルスコンテンツに関する彼らの経験や視点をよりよく理解することも必要だ。

結論

メンタルヘルスの誤情報は、特にオンラインで情報を求める人が増える中で、ますます懸念される問題になっている。私たちの研究は、個人が動画プラットフォームで誤解を招くコンテンツにどのように関わるかと、その関与の結果について光を当てた。これらの相互作用を理解することで、誤情報に対抗し、個人のメンタルヘルスの旅をサポートするための効果的な戦略を開発し始めることができる。

要するに、プラットフォームはユーザーが有害な誤情報から隔離された正確なメンタルヘルス情報にアクセスできるようにするために積極的なステップを踏む必要がある。メンタルヘルスの専門家や研究者との協力を通じて、助けを求める人々のためにより安全なオンライン空間を作ることができる。

オリジナルソース

タイトル: Supporters and Skeptics: LLM-based Analysis of Engagement with Mental Health (Mis)Information Content on Video-sharing Platforms

概要: Over one in five adults in the US lives with a mental illness. In the face of a shortage of mental health professionals and offline resources, online short-form video content has grown to serve as a crucial conduit for disseminating mental health help and resources. However, the ease of content creation and access also contributes to the spread of misinformation, posing risks to accurate diagnosis and treatment. Detecting and understanding engagement with such content is crucial to mitigating their harmful effects on public health. We perform the first quantitative study of the phenomenon using YouTube Shorts and Bitchute as the sites of study. We contribute MentalMisinfo, a novel labeled mental health misinformation (MHMisinfo) dataset of 739 videos (639 from Youtube and 100 from Bitchute) and 135372 comments in total, using an expert-driven annotation schema. We first found that few-shot in-context learning with large language models (LLMs) are effective in detecting MHMisinfo videos. Next, we discover distinct and potentially alarming linguistic patterns in how audiences engage with MHMisinfo videos through commentary on both video-sharing platforms. Across the two platforms, comments could exacerbate prevailing stigma with some groups showing heightened susceptibility to and alignment with MHMisinfo. We discuss technical and public health-driven adaptive solutions to tackling the "epidemic" of mental health misinformation online.

著者: Viet Cuong Nguyen, Mini Jain, Abhijat Chauhan, Heather Jaime Soled, Santiago Alvarez Lesmes, Zihang Li, Michael L. Birnbaum, Sunny X. Tang, Srijan Kumar, Munmun De Choudhury

最終更新: 2024-07-02 00:00:00

言語: English

ソースURL: https://arxiv.org/abs/2407.02662

ソースPDF: https://arxiv.org/pdf/2407.02662

ライセンス: https://creativecommons.org/licenses/by-sa/4.0/

変更点: この要約はAIの助けを借りて作成されており、不正確な場合があります。正確な情報については、ここにリンクされている元のソース文書を参照してください。

オープンアクセスの相互運用性を利用させていただいた arxiv に感謝します。

著者たちからもっと読む

類似の記事