注意経済のダークサイド

過去70年間、人々は注意を引きつけてお金に変える経済を作ってきたけど、主に広告を通じて。それに加えて、ここ20年で心理学や神経科学の研究がオンラインプラットフォームにとって大規模に注意を引く助けになったんだ。

これらのプラットフォームは広告の効果を高めようとしてるけど、その方法には害のある副作用がある。意見を分極化させたり、偽情報を広めたり、さらには公衆の健康や民主主義を脅かしたりする可能性もある。この状況は、ウェブが共通の利益のために使われていないことが多く、ユーザーが脆弱になっていることを示している。

この記事は、さまざまな分野の見解を組み合わせて現在の実践とその影響を分析してる。オンラインでの注意を奪い合うシステムに対して行動を提案し、この貴重な資源を無駄にすることが私たちの文明を脅かすかもしれないと主張してる。

#持続不可能な注意市場

1950年代以来、メディアや広告企業は人々の注意を引きつけて収益に変える効果的な方法を探し続けてきた。最近では、人工知能の進歩のおかげで大手オンラインプラットフォームがこのプロセスを加速させることができるようになった。これらのプラットフォームは広告収益に依存していて、ユーザーデータを集めて広告を最適化しながら無料サービスを提供してる。

彼らのビジネスモデルは、ユーザーが広告を見るときに精神的に利用可能であることを確保し、そのメッセージがユーザーの興味や感情に合っていることを目指してる。私たちの「利用可能な脳の時間」を効果的に引きつけるための多くのテクニックが作られてきた。

これらのテクニックは主に2つのタイプに分けられる：

1. 注意を引くために心理的なトリックを使う方法。例えば、SNSの「いいね！」は私たちの脳の報酬システムを活性化させたり、スマホの通知は新しさを求める欲求を利用する。無限スクロールみたいな機能は、取り残されることへの恐れを利用して止めるのを難しくする。他にも、自動再生の動画は、見るのをやめようとすると不完全感を生む。

2. 他の方法は、ユーザーが通常は選ばない選択をするように仕向けるダークパターンを使ってる。例えば、多くのユーザーはアプリからの通知を全て受け入れてしまうけど、それをオフにするには追加の手順が必要になる。

最近の機械学習の進歩により、アルゴリズムはユーザーのオンライン行動に基づいてコンテンツを推薦できるようになった。これらのシステムは、ユーザーの注意を引くものを学習して、しばしば対立、恐怖、性的内容に関連するコンテンツを促進する。私たちはネガティブな情報にあまりにも焦点を合わせる傾向があるため、強い感情を引き起こす偽情報の促進につながる。

注意は限られた貴重な資源なので、無駄にするのは社会にとって危険だ。現在、精神的な注意は重要な資源であり、注意経済は長期的には持続可能ではないかもしれない。

「注意市場」は、人々の注意を引きつけ維持するためにさまざまなビジネスが競い合う経済環境を定義している。この市場は注意を商品として扱っていて、ユーザー、コンテンツクリエイター、広告主など多くのプレイヤーが関わっている。

この議論は、コンピュータサイエンスのコミュニティにこれらの問題について考えるよう促すことを目指している。さまざまな分野の70以上の論文からの知見を引き合いに出し、社会に害を及ぼす注意を引くシステムの実践を批判している。効果的な広告の目標を念頭に置くと、これらの実践は過激化を招いたり、偽情報を広めたり、社会構造を損なったりすることがある。

#レコメンデーションシステムのループにいるユーザー

コンテンツ推薦アルゴリズムは多くのアプリケーションに見られ、私たちの生活を大きく変えた。さまざまなタスクで役立つ一方で、欠点もある。例えば、SNSでは、これらのアルゴリズムがユーザーのニーズに応えるよりも、ユーザーの注意を最大化することを優先することが多い。

推薦アルゴリズムは、ユーザーを引きつけるコンテンツの特徴を学んでいく。彼らは、対立や恐怖のようなトピックがより多くの注意を引くことを学び、このタイプのコンテンツを促進する傾向にある。

これらのアルゴリズムは、ユーザーの興味や過去の行動に基づいてコンテンツを選択する。ただし、推薦の決定プロセスの細かい部分は、ユーザーにとっては常に明らかではない。

推薦アルゴリズムは自己強化ループを作り出す。具体的には：

1. アルゴリズムがユーザーにコンテンツを推薦する。
2. ユーザーがそのコンテンツと対話し、それがプラットフォームによって追跡される。
3. プラットフォームがこの行動を今後の推薦に組み込み、サイクルを強化する。

このループは、ユーザーの活動を追跡するスマホのような他の要因によって影響を受け、推薦の正確性を高める。また、システムを悪用しようとする悪意のあるアクターによって操作されることもある。

このループの一つの懸念される結果は、アルゴリズムがユーザーをエコーチャンバーに閉じ込め、「フィルターバブル」に導くことだ。これにより、ユーザーは自分の信念を確認するコンテンツしか見なくなり、過激化や分極化が進む。

社会が気候変動のような重大な課題に直面している今、これらのシステムが有益なコンテンツを推薦しているのか疑問に思うべきだ。

何百万ものユーザーが毎日推薦ループに関与している中で、これらのプラットフォームが私たちの注意をどのように引きつけているかを監視する必要がある。プラットフォームのコンテンツに注意が費やされると、他の重要な問題に対する注意は失われる。

#アルゴリズミックな感情ガバナンス

前述の推薦ループは、感情がどれほどコンテンツ選択に影響を与えるかを示している。注意市場は、感情、バイアス、アルゴリズムの複雑な相互作用を通じて機能している。

感情、特にネガティブな感情は、私たちの注意を引くのに効果的だ。怒り、恐怖、嫌悪感を引き起こす情報は、しばしば目立つ。このダイナミクスは、「アルゴリズミックな感情ガバナンス」を導く、アルゴリズムがさまざまな目的のために感情的反応を操作することだ。

ネガティブな感情は特に強力で、ユーザーに反応や関与を促進させる。注意を引くこととユーザーのエンゲージメントを高めることは別物だが、研究によると怒りは他の感情よりもSNSで広がるのが速い。

推薦システムとユーザーの感情の組み合わせは、ユーザーが自分の信念に執着するサイクルを生むことがある。例えば、スポーツファンはアルゴリズムに推薦されたコンテンツを元にライバルチームに対する嫌悪感を抱くことがあり、これがエコーチャンバーを強化し、害のある感情を助長する。

その結果、ネガティブな感情がエスカレートし、意見が分極化したり、極端な行動につながることがある。プラットフォームはしばしば短く単純なやり取りを促進し、微妙な議論を難しくする。

この感情のエスカレーションは、現実世界における結果を招く可能性があり、ヘイトスピーチやサイバーブリングを引き起こし、メンタルヘルスや安全に深刻な影響を与える。また、ネガティブな情報はポジティブな情報よりも記憶に残りやすく、偽情報の影響をより有害にする。

#注意を取り戻す

これらの問題に対処するには、ネガティブな結果に対処するだけでなく、注意が引きつけられたり悪用されたりするのを防ぐことを考える必要がある。

一つのアプローチは、SNSプラットフォームがユーザーがサイトに費やす時間を制限すること、特に若者に対してだ。動画の間に短い休止を実装することで、ユーザーはどれだけの時間を休憩なしで関与していたかを認識するのに役立つ。

もう一つの重要な対策は、ユーザーが通知のコントロールを持つことを確保し、アラートを受け取る前に明示的な同意を必要とすることだ。これが注意の分散や常に注意を引く要求を減少させるのに役立つ。

エコーチャンバー効果に対処するために、プラットフォームはユーザーに通常の興味の範囲外の視点を含むコンテンツのミックスを表示するように促されるべきだ。これにより、新しいアイデアを紹介し、分極化を減らすのに役立つかもしれない。

さらに、プラットフォームはコンテンツに関連する感情を評価し、ネガティブな感情に基づく推薦の量を制限することが求められるべきだ。このバランスの取れたアプローチは、より健康的なオンライン環境を作るのに役立つだろう。

偽情報は訂正よりも早く広がるため、プラットフォームは偽情報の反論が平等に可視化されるようにするべきだ。偽情報を広めるユーザーには、正しい情報が通知されるようにして意識を高める。

最も重要なのは、プラットフォームがより微妙なインタラクションを促進するようなデザインを推進することだ。例えば、「いいね」やシェアするだけでなく、ユーザーがさまざまな反応を示すことを奨励し、より深い会話を促すことができる。

#みんなの責任

私たち社会は、主要なオンラインプラットフォームをビジネス以上のものとして捉える必要がある。彼らは公共の利益、教育、批判的思考を推進する責任を持つデジタルコモンズと見なされるべきだ。

こうしたプラットフォームは、誤解を招くコンテンツを識別する方法について情報を提供し、ユーザーに注意メカニズムについて教えることができる。この教育的アプローチによって、個人が情報により思慮深く関与する力を持つことができる。

SNSが公共の意見や健康に与える影響に対処することが重要だ。市民教育を促進し、民主的価値をアルゴリズムに統合することで、倫理的な行動を重視する環境を作れる。

透明性も重要だ。ユーザーは、なぜそのコンテンツが推薦されるのか、その理由に関する情報にアクセスできるべきだ。こうした対策は、個人が情報に対して informed choices を行い、オンライン体験における力に気づくのに役立つ。

これらの原則を実施し、注意市場へより規制されたアプローチを取ることで、私たちは注意を取り戻し、より健康的で情報に基づいた社会を育むことができる。技術が進化し続ける中で、私たちのデジタルツールが私たちのニーズに合うように、またそれを阻害しないように注意を怠らず、適応していくことが重要だ。