自動運転のための深層ニューラルネットワークの安全性評価

安全性は、自律運転のような重要なアプリケーションでディープニューラルネットワーク（DNN）を使うときの大きな懸念事項だよ。DNNが一般的になってきたから、実際のシナリオでちゃんと機能することを確認するのがめっちゃ重要なんだ。でも、特に訓練データに含まれていないデータに遭遇したとき、そのパフォーマンスをチェックするのが難しいんだよね。これが、良いパフォーマンスと、訓練データとは異なるデータ（OODデータ）を扱う能力とのバランスを取る必要性を生んでるんだ。

この評価は、ある方法がセマンティックセグメンテーションに焦点を当てたDNNの出力をどれだけ拒否できるかを見てるんだ。この方法は、マハラノビス距離（MD）という統計的計算を使って、予測が期待されるものからどれくらい遠いかを測るんだ。要するに、ピクセル（または画像の一部）がモデルが訓練中に学んだ内容と比べてどれほど異常かをチェックしてるんだ。この研究では、Cityscapesというデータセットを使って訓練された3つのDNNを4つの異なる自動車データセットでテストしたよ。結果として、他の新しいデータセットでテストしても、分類のエラーを減らしつつ、正確にラベリングされたピクセルの数も減らすことができるってことが分かったんだ。

#はじめに

データ駆動型アルゴリズム、特にDNNは、いろんな分野で複雑な課題に対処するために大きな進歩を遂げてるよ。自律運転では、これらのアルゴリズムが周囲の認識を大いに改善してきたんだ。ここでの重要なタスクの一つがセマンティックセグメンテーションで、目的は画像の各ピクセルに車、歩行者、道路標識など何を表すかをラベリングすることなんだ。Cityscapesデータセットは、いろんなDNNアーキテクチャの効果をテストするための重要なベンチマークになってるよ。

でも、DNNは理解したり分析したりするのが難しいんだよね。自動車業界には、ISO 26262のような確立された基準があって、リスクを最小限に抑えることの重要性が強調されてるんだけど、残念ながら多くの方法はDNNの開発とはあまり相性が良くないんだ。それがISO 21448のような追加の基準を生むことにつながったんだ。

認識システムを検証する上での一つの課題は、膨大な入力データの中で特定のクラスを明確に定義するのが難しいことなんだ。例えば、歩行者がどんな状況でもどう見えるかを完全に定義するのはほぼ不可能なんだよ。画像データの高次元性も問題を複雑にして、異常検出においての課題を引き起こすんだ。

この記事では、誤分類を減らすことと正確に特定されたピクセルの数との間にトレードオフがあることを示しているよ。要するに、誤分類の数を減らすと、全体のピクセル予測が少なくなることがあるんだ。このトレードオフは、OOD検出に使われる一般的に受け入れられた距離測定に基づいてるんだ。MD手法をピクセルレベルで適用することによって、この研究は自動車の認識タスクに使われるDNNの安全性の論証を強化しようとしているんだ。

#関連研究

自動車ソフトウェア工学の文脈で、OOD入力を検出するために多くの研究が行われてきたよ。不明瞭または不確実な条件を検出することは、安全な自律車両の開発にとって重要なんだ。既存の文献では、認識システムの検証と検証、そしてそのOOD検出のためのさまざまな戦略が示されているよ。

OOD検出の方法は、分類ベース、密度ベース、距離ベース、再構築ベースのいくつかのタイプに分類できるんだ。この論文は、距離ベースのOOD検出に焦点を当てているよ。

以前の研究では、画像を使ってOOD検出を実装する方法が探求されているんだ。例えば、あるアプローチでは、分類器の分布から最も可能性の高い予測を距離の測定として利用しているんだ。他の研究では、DNNの内部特徴を使って何かがおかしいと感じる時を特定することを提案しているけど、これらの方法はしばしばDNNの内部構造を深く理解する必要があって、実際に適用するのが複雑なんだ。

もう一つの著名なOOD検出の方法は、訓練データから構築されたクラス条件付きガウス分布を利用しているんだ。このアプローチでマハラノビス距離を計算して、サンプルが期待される分布とどれくらい異なるかを測ることができるんだ。私たちの研究はこの方法を基にして、画像タイプの範囲を広げてピクセルレベルで適用しているんだ、画像レベルだけでなくね。

自動車分野では、OOD検出がDNNをもっと信頼性の高いものにする手段として注目されているんだ。多くの研究者は、DNNとともに異常をキャッチするための監視層の重要性を強調しているよ。最近の研究では、セマンティックセグメンテーションネットワークがOOD検出に効果的に使えることが示されているんだ。

私たちの研究は、データの収集場所がOOD検出のパフォーマンスにどのように影響するか、そしてDNNが意図した境界の外で動作する際にマハラノビス距離法がどれだけ信頼できるかを評価することを目指しているんだ。

#方法論

このセクションでは、セマンティックセグメンテーションに焦点を当てたDNNにおけるリスク・カバレッジのトレードオフを評価する方法を説明するよ。以下の側面について触れる予定だ: A) 使用されたデータセット、B) 研究のために選ばれたモデル、C) 使用された評価指標、D) これらすべての要素が評価のためにどのように組み合わさったか。

#データセット

DNNが訓練データと完全には一致しないデータに対してどれだけうまく機能するかを理解することは重要なんだ。この評価のために、Cityscapesと似たラベルと画像を持つ他のデータセットを探したんだ。これらのデータセットは、モデルがパフォーマンスを一般化できるかどうかを評価するために、異なる場所から取られた画像である必要があったんだ。

Cityscapesデータセットは、都市に基づいてデータを分配する点でユニークなんだ。他にもGPS座標からロケーションデータを提供できるデータセットがいくつか見つかったよ。最終的に、この研究のためにCityscapes、KITTI-360、Audi Autonomous Driving Dataset (A2D2)、Berkeley Deep Drive (BDD100K)の4つのデータセットが選ばれたんだ。

これらのデータセットは、さまざまなクラスと定義を提供しているよ。例えば、BDD100Kは19クラスを含んでいて、他のデータセットは30クラス以上あるんだ。でも、今回の研究で関連する評価は、全データセットに共通する19のクラスのセットに一致するんだ。だから、一貫した方法でクラスを名付けることに集中すればいいんだ。

要するに、4つのデータセットはドイツ、スイス、アメリカ、イスラエルの地域をカバーしていて、6つの異なる評価セットを作ってるよ。

#モデル選択

実験では、Cityscapesデータセットで訓練されたプレトレーニングモデルを使用したんだ。ラベルを変更せずに、DeepLab v3+から2つ、Pyramid Scene Parsing (PSPNet)から1つのモデルが選ばれたよ。これらのモデルはエンコーダ・デコーダ形式で構成されていて、エンコーダが入力画像を処理して圧縮し、デコーダが圧縮された情報に基づいて出力を再構築するんだ。

DeepLab-v3は、ResNet101またはMobilenet-v2をバックボーンに使用した2つのバージョンを提供しているよ。私たちの評価では、全モデルがCityscapesの検証セットで似たようなパフォーマンスを発揮したんだ。

#評価指標

評価指標は、OODの測定、リスク、ピクセルカバレッジ、その他の評価要素を表現するために使用されたよ。MD手法は、サンプルが期待される分布からどれくらい離れているかを測るんだ。シンプルな距離指標と比べて、MDはデータの平均値と変動を考慮していて、モデルのパフォーマンスをより詳細に理解することができるんだ。

カバレッジは、モデルによって予測されたラベル付きピクセルの割合を定義するよ。もし全てのピクセルに予測があれば、カバレッジは100%になるんだけど、モデルが優勢なクラスの予測を提供しないと、初期カバレッジは100%を下回る可能性があるんだ。

リスクとカバレッジの指標を組み合わせることで、二つのトレードオフを表現し、OOD検出に対する受け入れ基準の変化に応じてパフォーマンスがどのように変化するかを視覚化できるんだよ。

#評価手法

この研究の主な目的は、ROC曲線の下の面積（AUC）を通じて平均パフォーマンスを評価することで、異なる場所、カメラのセットアップ、ラベリングの実践からのデータでテストするとパフォーマンスが低下するという仮説があったんだ。リスクとカバレッジのレベルが、安全性の受け入れ基準が高くなるにつれてどのように変化するかを調査したよ。

#結果

結果は二つの部分に分けられているよ：最初の部分は、安全性の測定を異なる評価セットに適用した結果をレビューし、二つ目の部分は、安全性の測定がDNNの使用に対する全体的な安全性の論証にどのように貢献するかを評価するんだ。

#指標評価

評価を開始するために、3つのDNNモデルのクラス条件付きガウス分布を抽出したんだ。訓練サンプルからピクセルデータを集めた後、平均値や共分散行列を計算して、距離を適切に測定できるようにしたよ。

個々の距離をオンラインで評価するのは実用的ではなかったけど、この方法は安全性の測定に最適なパフォーマンスを示したんだ。リスク・カバレッジグラフは潜在的なトレードオフを示し、主要なパフォーマンス指標がまとめられているよ。

Cityscapesデータセットでは、3つのモデルすべてが訓練中にうまく機能し、似たようなAUCスコアを持っていて、分類タスクを効果的に分離する能力を示しているんだ。彼らの最高のパフォーマンスは、訓練データ上で維持されたけど、検証ステージではパフォーマンスが若干落ちることがあったよ。

BDD100Kのような他の評価セットを見ると、モデルはパフォーマンスが急激に低下して、IoUスコアが著しく減少したんだ。この低パフォーマンスは、データセットの特性の違いが大きな役割を果たしていることを示していて、シーンの構成、オブジェクトの多様性、カメラのセットアップなどが影響しているんだ。

KITTIの結果は、スコアが落ちてもモデルがまだ合理的なパフォーマンスを発揮していることを示しているよ。すべてのモデルが似たようなパフォーマンス結果を示していたけど、Cityscapesの基準と比べて明らかに低いことがいくつかあったんだ。

A2D2とBDD100Kでは、パフォーマンスレベルが期待を大きく下回っていて、特定のクラスやラベリング戦略がアウトカムにかなり影響を与えていることが分かったんだ。

#安全要件への適用性

安全要件は、実験中にさまざまな閾値の下でリスクとカバレッジ指標がどのように変動するかを観察することで分析されたよ。最低50%のカバレッジと15%のリスクの仮定の目標が設定されて、モデルが訓練ドメインの外で機能できるかどうかが決定されてるんだ。

すべてのモデルはCityscapesの訓練と検証セットで成功したよ。しかし、BDD100KとA2D2の安全要件を満たすことはできず、受け入れ可能なカバレッジ率を達成するために仮定されるリスクレベルの調整が必要かもしれないね。

#議論

OODシナリオを検出するタスクは、自動車認識において非常に重要なんだ。コミュニティは、特定のオブジェクト検出シナリオの完全な説明をするのは不可能だと認識しているよ。目標は、偽陽性のリスクを最小限に抑えつつ、正確性を最大化することだね。

この研究は、自律運転環境におけるセマンティックセグメンテーションネットワークに対して、安全性の測定を適切に適用する方法を強調しているんだ。異なるデータセットを分析し、モデルが異常な状況に遭遇したときのパフォーマンスを調べることで、これらのシステムがどれだけ堅牢かのより明確なイメージを得ることができるんだ。

モデルは馴染みのある環境ではうまく機能したけど、多様なデータセットではかなり苦しんでいたよ。この結果は、さまざまなデータセットにわたる一貫したクラスの定義とラベリング戦略の重要性を示しているんだ。ばらつきがあると、パフォーマンスが悪化するんだ。

認識システムの効果を高めるためには、弱点を特定して予測の質を向上させるための反復的なプロセスを採用することを提案してるよ。改善が不可能な場合、そのシステムは設定されたパラメータ内で正しく機能できるように範囲を制限する必要があるかもしれないね。

不確実な予測を拒否することだけに依存するのはリスクをなくすわけじゃなくて、不確実な予測に基づいて決定を下すときには慎重になる必要があるってことを示してるんだ。

#妥当性への脅威

データセットはカメラのセットアップ、シーンの構成、品質が異なるから、直接比較するのが難しいんだ。モデルは一種類のデータセットでしか訓練されてないからね。これらのバリエーションにもかかわらず、異なるモデルのパフォーマンスパターンが観察されているよ。

MD手法は、DNNの予測を向上させるために広範な検証プロセスに統合されるべき数々の安全策の一つなんだ。この研究は、ピクセルカバレッジに関するリスク・カバレッジのトレードオフを理解する重要性を強調しているよ。そして、モデルが不慣れなデータでうまく機能しない可能性も示唆しているんだ。

結果は、一定の距離の閾値を超える予測だけを受け入れることでリスクを最小化できることを示しているよ。マハラノビス距離をさまざまな自動車データセットにおける安全性の測定として使用することで、データの特性がモデルのパフォーマンスに大きく影響することが分かるんだ。今後の研究では、様々なデータセットでこれらのモデルを再訓練して、効果的な評価のためのよりバランスの取れた方法を見つけることが考えられるよ。