Simple Science

最先端の科学をわかりやすく解説

# コンピューターサイエンス# コンピュータビジョンとパターン認識# コンピュータと社会

コンピュータビジョンのダークサイド:監視の真実

AI技術と監視システムの問題のある関連性を調べる。

― 1 分で読む


AIと監視:警告の物語AIと監視:警告の物語現代の監視実践におけるAIの役割を調査中
目次

最近、人工知能(AI)、特にコンピュータビジョンの分野が監視とどう関係しているかについて、多くの人が懸念を示しているよ。コンピュータビジョンは、機械が画像や映像のような視覚情報を理解し解釈する方法を指すんだ。多くの研究者がこの分野をポジティブな応用のために探求しているけど、大規模な監視と結びつく問題が浮かび上がってきたんだ。

監視AIパイプラインって何?

監視AIパイプラインは、コンピュータビジョンの研究が監視技術にいかに貢献しているかを示すプロセスのこと。過去30年間にわたって数千のコンピュータビジョンの研究論文や関連特許を調査した結果、この分野の研究が多くの監視行為を支えていることが明らかになったよ。

分析からの主要な発見

研究者たちは、コンピュータビジョンの論文の約71%が監視に関連する特許で引用されていることを発見した。この関連性の成長は驚くべきもので、1990年代から2010年代にかけて、監視特許に関連するコンピュータビジョンの論文の数は5倍以上増加したんだ。この傾向は明確なパターンを示していて、少数の悪者だけじゃなくて、コンピュータビジョン研究がしばしば監視につながるという広範なノルムが存在するんだ。

機関の関与

コンピュータビジョン研究に関与している機関には、一流の大学や大手テクノロジー企業が含まれているよ。これらの組織は、監視特許に関連する多くの研究を生み出してきた。たとえば、監視に関連する特許の11,000以上がコンピュータビジョン技術を利用しているんだ。

監視の理解

監視はただ見ることじゃなくて、データを収集、分析、利用して個人やグループを監視することを含んでいるよ。コンピュータビジョン技術は、顔認識や公共の場での人間の動きを追跡するなどの様々な監視方法に広く使われている。コンピュータビジョンの分野が進化するにつれて、その応用も監視に広がっているんだ。

コンピュータビジョンの進化

コンピュータビジョンのルーツは、戦争中の標的を特定する軍事用途に遡ることができる。その後、この技術は民間の文脈に移行してきた、主に法執行や公共の安全のためにね。今では、コンピュータビジョンで開発された技術が、防犯カメラからオンライン監視ツールまでさまざまに利用されているよ。

収集されるデータの種類

コンピュータビジョンを通じて収集されるデータは、いくつかのカテゴリーに分類できる:

  1. 人間の身体の部分:多くの技術は、顔や指紋のような人間の特徴を特定することに焦点を当てている。これらの技術は、個人の同意なしに操作されることが多く、プライバシーの懸念を引き起こすんだ。

  2. 人間の身体:特定の場所(ショッピングモールや街など)で人々を追跡する大きなカテゴリーもあって、主に安全やマーケティングの目的で使われるよ。

  3. 人間の空間:このカテゴリーは、人間が集まる場所を分析することに関連していて、イベントでの群衆管理や交通パターンの監視などが含まれる。

  4. 社会的に関連するデータ:これは、社会的な行動、好み、インタラクションに関するデータで、ターゲット広告やソーシャルメディア分析に使われることが多い。

監視における言語の役割

研究者たちが自分の研究について話す方法は、監視に対する認識を形作るのに重要な役割を果たしているよ。多くのコンピュータビジョンの論文では、人間を「オブジェクト」と呼んでいることがあって、これがこの技術が人々を監視する能力を隠すことになる。こういう言葉が、研究者と彼らの研究の倫理的な影響の間に距離を生んでいるんだ。

監視の影響

監視の実践は、さまざまな社会問題を引き起こす可能性がある。特定のグループが他のグループよりも密に監視されるという力関係を強化することが多いよ。たとえば、人種的マイノリティは、法執行で使われる顔認識技術の影響を不均等に受けるかもしれない。こういう技術は、誤った逮捕を助長したり、社会的不平等を永続化させたりすることがあるんだ。

規制の必要性

監視技術の急速な拡大を考えると、個人のプライバシーを守るための規制が緊急に必要なんだ。現行の法律はデータ収集や同意の問題に対処しようとしているけど、実行や遵守はしばしば不足しているよ。監視の状況は複雑で、慎重な精査と考慮深い政策づくりが必要だね。

監視に対する公の認識

多くの人が監視技術について不信感や懸念を表明しているよ。この不安は、データがどのように収集され、使用されるかについての理解不足や、プライバシーが失われる恐れから来ている。コミュニティは、監視技術を展開する機関に対して透明性と説明責任を求めるようになってきている。

今後の方向性

技術が進化し続ける中で、コンピュータビジョンと監視の関係も変わっていく可能性が高いよ。研究と応用における倫理的な実践を確保することが、潜在的な害を軽減するために重要だね。研究者、政策立案者、そして一般市民が協力して、これらの技術の社会に対する影響に立ち向かう必要があるんだ。

結論

コンピュータビジョンと監視のつながりは、技術がどう開発され、使用されているかについての認識と批判的な検討が必要だということを示しているよ。コンピュータビジョンが監視において果たす役割を認識することで、関係者は個人の権利を守り、透明性を促進するためのステップを踏むことができるんだ。この問題に関する対話は、プライバシーと倫理的な技術の使用を重視する未来を形作るために重要なんだ。

オリジナルソース

タイトル: The Surveillance AI Pipeline

概要: A rapidly growing number of voices argue that AI research, and computer vision in particular, is powering mass surveillance. Yet the direct path from computer vision research to surveillance has remained obscured and difficult to assess. Here, we reveal the Surveillance AI pipeline by analyzing three decades of computer vision research papers and downstream patents, more than 40,000 documents. We find the large majority of annotated computer vision papers and patents self-report their technology enables extracting data about humans. Moreover, the majority of these technologies specifically enable extracting data about human bodies and body parts. We present both quantitative and rich qualitative analysis illuminating these practices of human data extraction. Studying the roots of this pipeline, we find that institutions that prolifically produce computer vision research, namely elite universities and "big tech" corporations, are subsequently cited in thousands of surveillance patents. Further, we find consistent evidence against the narrative that only these few rogue entities are contributing to surveillance. Rather, we expose the fieldwide norm that when an institution, nation, or subfield authors computer vision papers with downstream patents, the majority of these papers are used in surveillance patents. In total, we find the number of papers with downstream surveillance patents increased more than five-fold between the 1990s and the 2010s, with computer vision research now having been used in more than 11,000 surveillance patents. Finally, in addition to the high levels of surveillance we find documented in computer vision papers and patents, we unearth pervasive patterns of documents using language that obfuscates the extent of surveillance. Our analysis reveals the pipeline by which computer vision research has powered the ongoing expansion of surveillance.

著者: Pratyusha Ria Kalluri, William Agnew, Myra Cheng, Kentrell Owens, Luca Soldaini, Abeba Birhane

最終更新: 2023-10-17 00:00:00

言語: English

ソースURL: https://arxiv.org/abs/2309.15084

ソースPDF: https://arxiv.org/pdf/2309.15084

ライセンス: https://creativecommons.org/licenses/by/4.0/

変更点: この要約はAIの助けを借りて作成されており、不正確な場合があります。正確な情報については、ここにリンクされている元のソース文書を参照してください。

オープンアクセスの相互運用性を利用させていただいた arxiv に感謝します。

著者たちからもっと読む

類似の記事