CUT: 視覚的異常生成の新しい方法

視覚異常検出は、品質管理、医療診断、産業検査など、さまざまな業界で重要な役割を果たしている。でも、異常を見つけるのは結構難しいんだ、だって変わったケースはあんまり起こらないし、集めるのも大変だから。今の方法の多くは、普通の例から学ぶことに重点を置いていて、実際の異常サンプルはほとんど使わないんだ。この珍しいデータの限られた入手可能性が、異常検出システムのパフォーマンス向上を難しくしている。

この問題に取り組むために、多くの研究者が合成の異常サンプルを作成する方法を探っている。しかし、生成されたサンプルはリアルに見えなかったり、トレーニング中に見たデータを反映するだけだったりすることが多い。この論文では、CUTという新しいアプローチを紹介するよ。これは、コントロール可能でユニバーサル、トレーニング不要な視覚異常生成フレームワークのこと。これを使って、追加のトレーニングなしでリアルで多様な異常を作り出すために、Stable Diffusion（SD）という画像生成モデルを利用してる。

#異常検出の課題

視覚異常検出の主な難しさは、十分な異常データがないこと。本来の方法の多くは、トレーニング用に普通のデータに依存し、その後、異常を外れ値として特定しようとする。最近の進展の中には、複数のカテゴリにわたる異常を検出することを目指すものもあるけど、やっぱり普通の例が十分にないと、典型的なものをしっかり理解することは難しい。残念ながら、実際の状況では、普通のサンプルが十分にないことが多くて、効果的な解決策を開発するのが難しいんだ。

異常を生成するためのいくつかのアプローチが提案されている。ランダムなパターンを切り貼りして普通のサンプルを改善する方法もあって、これが異なるデータセットからだったり元の画像からだったりすることもある。これで多様なサンプルが作れるけど、あんまりリアルには見えないことが多い。他の方法では、生成敵ネットワーク（GAN）などの生成モデルを使って異常を作成するけど、これらもトレーニング用に十分な普通か異常のデータが必要なんだ。異常がどれだけ珍しく多様であるかを考えると、代表的な例を集めるのは難しいよね。

こういった課題のせいで、多くの生成モデルは実用的なアプリケーションでは期待通りに機能しないことが多い。彼らはトレーニングされた限られたタイプのデータに集中しがちだから、有効性が制限されることもある。

#リアルで多様な異常生成を目指して

この研究は、トレーニングなしでリアルで多様な異常を生成することを目指している。これは、様々な領域で印象的な結果を出しているStable Diffusionの能力を活用することで実現される。ただ、SDは標準的な画像生成にはうまく機能するけど、異常を作るために特別に設計されたわけじゃない。だから、直接この目的に使うと、得られる画像が普通のサンプルに通常関連付けられるパターンや分布と一致しないことがあるんだ。

利用可能な普通または異常のサンプルでSDをファインチューニングすることが可能な解決策として提案されているけど、これはモデルの新しい例への一般化能力を制限する可能性がある。だから、既存の方法の欠点を克服するために、CUTは制御可能でユニバーサルな方法で異常を生成する新しいフレームワークを導入している。

#CUTの仕組み

CUTは、事前にトレーニングされたSDモデルを活用して、テキストの説明を入力として異常なパターンを生成する。これらの説明には、「ひび」や「傷」といった異常の種類に関する特定の詳細が含まれ、ユーザーが出力をコントロールできるようになっている。

CUTは利用可能なデータでSDを調整する代わりに、追加のトレーニングを必要とせずに生成プロセスをガイドする方法を採用している。各生成インスタンスには普通のサンプルが組み込まれていて、生成された異常が、新しいデータや異なる異常タイプにわたって多様性と一般化を維持することを保証している。その結果、CUTは新しいオブジェクトや異常の説明に対してリアルで多様な異常サンプルを生成できる。

CUTは、SDを異常の生成に使用する際に発生する2つの主要な課題に対処している。まず、異常はトレーニングデータで珍しく、これがSDが説得力のないサンプルを生成する原因になることがある。次に、異常はしばしば画像の小さな領域にしか存在しないため、生成中に見落とされやすいんだ。

このプロセスを改善するために、CUTはマスクガイド付きの注意最適化を導入している。この技術はモデルの注意を異常生成に集中させ、生成された画像が望ましい異常の特徴を反映するようにしている。このほかに、ローカライゼーションに配慮したスケジューラーが異常領域のサイズに基づいて最適化スピードを調整し、早期停止戦略が過剰最適化による非現実的な要素の出現を防ぐのに役立っている。

さらに、生成された異常に関連する注意マップは、異常の位置を特定するための基本的なピクセルレベルの注釈として機能することができる。CUTは、これらの注釈を使用して下流の検出タスクのトレーニングを強化するために、適応されたダイス損失も提案している。

#強力な異常検出フレームワークの構築

異常生成に加えて、CUTは生成された異常を効果的に検出するためにVLAD（視覚と言語に基づく異常検出）というフレームワークを開発している。このフレームワークは、CUTによって作成された合成データでトレーニングされ、さまざまなベンチマークタスクで強力なパフォーマンスを達成している。

VLADは、競争力のあるCLIPベースの方法に基づいており、画像レベルとピクセルレベルの分類損失の両方を含むトレーニング目的を統合している。フォーカルロスは難しい誤分類例に焦点を当てるために使用され、バイナリ交差エントロピー（BCE）損失と適応されたダイス損失の組み合わせが効果的な異常のローカリゼーションを可能にしている。

ピクセルレベルの注釈への注目は、トレーニングプロセス中のパフォーマンス向上に寄与する。また、合成データを使用することで、VLADは少数ショット学習のセットアップでも検出能力を強化できる。ここでは、限られた量の普通のデータしか提供されない。

#実験の設定と評価

CUTとVLADを検証するために、MVTec ADやVisAのようなデータセットを使用して広範な実験が行われた。これらの実験では、異常生成と検出評価の両方を行い、新しい方法を既存のものと比較している。

異常生成に関しては、ユーザーが普通のサンプルと生成したい異常の説明を提供する。生成された異常は、リアリズムと多様性に基づいて評価される。検出の観点からは、CUTによって生成された合成データを使用してVLADをトレーニングする効果を、さまざまな条件下で徹底的に分析している。

結果は、CUTが既存の方法よりもリアルな異常を生成するのに優れていることを示しており、VLADは少数ショット条件でもこれらの異常を検出する上で優れた性能を示している。観察された改善は、合成異常データを生成するCUTのアプローチの効果を示している。

#結論

まとめると、この研究は追加のトレーニングなしでリアルで多様、コントロール可能な異常を生成するために設計されたCUTというフレームワークを紹介している。主な革新点は、Stable Diffusionを効果的に活用し、マスクガイド付き注意最適化を取り入れることだ。合成サンプルを生成し、それを使って検出フレームワークをトレーニングすることで、限られたデータがあるシナリオでも異常検出タスクでの大幅な改善が達成されている。今後の研究では、生成された異常の注釈の質を改善し、その結果、検出性能をさらに向上させ、さまざまな分野でのこれらの方法の応用を広げることに焦点を当てる予定だ。