ホームレスサービスにおけるAIに関するステークホルダーの見解

近年、ホームレスの人たちのためのサービスに人工知能（AI）の利用が増えてきたけど、これらの技術に直接影響を受ける労働者や個人の考えや懸念についてはあまり知られていないんだ。この研究は、限られた住宅リソースを割り当てるために設計されたAIベースの意思決定支援システムについて、これらの関係者がどう考えているかを探ることを目的にしている。彼らの意見を集めることで、研究者たちはこうしたシステムの設計や展開を改善したいと考えている。

#フィードバック収集の方法

研究者たちは、フロントラインの労働者やホームレスの人たちから意見を集めるために、「AIライフサイクルコミックボード」という方法を使った。この方法は、AIシステムのデザインのさまざまな部分を説明するコミックスタイルのパネルを作ることから成り立っている。参加者はこれらのパネルにフィードバックを提供でき、システムがどう機能するか、どこを改善できるかを理解する手助けになる。

フィードバックは、AIシステムを毎日使っている郡の労働者、ホームレスの人を支援するサービス提供者、現在または以前にホームレスだった人たちの3つの主要なグループから集められた。このコミックボードのアプローチを使うことで、研究者たちはすべての参加者がAIシステムについての懸念や提案を共有しやすくした。

#ホームレスサービスでのAIの必要性

国連はホームレスを、人々の尊厳、社会的包摂、生存権に影響を与える深刻な問題だと説明している。世界中で18億人以上が適切な住居を欠いていることから、問題は深刻だ。アメリカだけでも、2021年の1晩で326,000人以上がシェルターでホームレスになっているけど、シェルターに入っていない人を含めるともっと多い。

AIベースのシステムは、限られた住宅リソースを優先的に使えるように導入されている。アメリカのロサンゼルスやサンフランシスコなど、多くの地域でこうしたシステムが展開されているけど、これらのシステムに最も影響を受ける関係者たちがその設計に関与する機会は限られている。この関与の欠如は、こうした技術が脆弱な人々のニーズに応えているのかどうかの懸念を引き起こす。

#AIライフサイクルコミックボードの方法

AIライフサイクルコミックボードの方法は、AIシステムの作成と展開の全プロセスを小さく管理しやすい部分に分解している。こうすることで、研究者たちは参加者が有益なフィードバックを提供しやすくしている。それぞれのコミックボードは、タスクの定義、データの選択、システムの展開など、AIシステムの異なるコンポーネントを表している。各パネルには、会話を促すためのイラストやプロンプトが含まれている。

研究中、参加者はAIシステムのさまざまな側面についてのコミックボードを提示され、システムのデザイン、動作、住宅を求める個人への影響について話し合っていた。

#参加者のフィードバック

研究を通じて、参加者はAIシステムのさまざまな側面についての考えを共有した。フィードバックには、AIシステムの全体的な目的、モデル設計の選択、データの選定、展開プロセスについての懸念が含まれていた。

#AIシステムの目的についての懸念

一部の参加者は、住宅リソースを優先するという考えそのものに疑問を呈した。彼らは、誰もが平等に住宅にアクセスできるべきで、優先順位をつけるべきではないと主張した。多くの人にとって、焦点は申請者を必要性で振り分けるのではなく、ホームレスの根本的な原因に対処することにあるべきだということだ。つまり、ホームレスになる前にもっとリソースを割り当てれば、問題をより効果的に対処できるという考え。

#モデル設計の選択肢

もう1つの懸念は、モデルの設計についてだった。参加者は、このシステムが郡の利益を最適化するもので、実際にホームレスの人たちが必要としているものに焦点を当てていないのではないかと感じた。彼らは、システムが結果を測定するために使う代理変数に懐疑的で、これらの選択が誤解を招く評価につながるかもしれないと心配していた。たとえば、緊急性を測る指標として入院回数を頼るのは、医療システムでより目立つ人に優先権を与えてしまう可能性がある。

#データの選択と使用

参加者は、AIシステムを訓練するために使用されるデータが、ホームレスの人たちの現実を正確に反映していないかもしれないと指摘した。公的サービスを求めないのは、過去の悪い経験が原因で記録が残っていない人も多いかもしれない。それは、最も支援が必要な人たちにさらに不利益をもたらしかねない。また、個々の状況は急速に変わることがあるので、静的データを使用するシステムが実際の状況に追いつくのは難しい。

#展開プロセス

AIシステムがどのように実装されたかについて話し合う中で、フロントラインの労働者は、申請者に誤ったスコアが付けられることでの潜在的な害について懸念を表明した。彼らは、スコアがどのように計算されたのか理解できないまま、不利な結果を個人に伝えなければならないことが多いと感じていた。透明性の欠如は、彼らを無力に感じさせ、システムが彼らの脆弱性を認識しないときに個人のために声を上げる能力が限られていた。

#参加者からの提言

参加者は、自分たちの経験と提供したフィードバックに基づいて、AIシステムの改善のためのいくつかの提言を行った。

#継続的なフィードバックの機会

多くの参加者が、定期的なフィードバックセッションを再導入すべきだと表明した。彼らは、継続的に意見を提供する機会が設けられれば、システムのデザインが大幅に改善されると感じていた。以前の評価ツールには、コミュニティの参加があったが、AIベースのシステムに移行する中で、参加者は脇に置かれてしまったと感じた。

#人間の関与を強化

参加者は、フロントラインの労働者が、AIシステムを人間の判断の代わりではなく、サポートツールとして使って、個人との直接的なやりとりに基づいて意思決定をする権限を持つべきだと考えていた。彼らは、フロントラインの労働者に対する広範なトレーニングが、自信やクライアントを擁護する能力を大いに高めるだろうと提案した。

#包括的なデータ収集

ホームレスの人たちのニーズをよりよく表現するために、参加者はデータ収集プロセスに質的な物語を統合する重要性を強調した。彼らは、数字だけでは捉えきれない個人の状況を理解するために、より包括的な視点が必要だと主張した。

#アップストリームとダウンストリームのサポート

AIを取り巻く全体的なシステムの改善が強く求められた。参加者は、まずホームレスの人たちを利用可能なサービスに結びつける努力がもっとあるべきだと表現した。また、個人が住宅を得た後には、特定のニーズに合わせたダウンストリームケアプランが必要で、長期的な安定を確保するために重要だと言われた。

#結論

この研究は、特に影響を受ける関係者が、ホームレスサービスにおけるAIシステムの設計と展開において重要な役割を果たすことを強調している。AIライフサイクルコミックボードの方法を用いることで、研究者たちはフロントラインの労働者やホームレスの人たちから豊かな洞察を成功裏に集めた。

参加者は、郡の公式が彼らの貢献の仕方に初めは懐疑的だったにもかかわらず、貴重なフィードバックや改善のアイデアを持っていることを示した。最終的に、調査結果は脆弱な人々を支援するためのAIシステムの開発において、包摂性と透明性の重要性を強調している。今後の取り組みでは、コミュニティの関与を優先し、質的データを考慮し、住宅割り当てに関わるより広範な社会技術的システムに対処することが求められている。