ラベルフリッピング

ラベルフリッピングは、機械学習で使われる攻撃の一種で、データの正しいラベルが間違ったものに変更されるんだ。この方法では、データが何を表しているかを示すラベルがランダムにひっくり返される。例えば、猫の写真が「猫」ってマークされてたら、「犬」に変わる可能性があるんだ。

この攻撃の目的は、モデルのトレーニング中に混乱させること。ラベルをひっくり返すことで、モデルは間違った情報から学ぶことになり、その結果、予測をする時のパフォーマンスが悪くなるんだよ。

ラベルフリッピングは実行が簡単だけど、他の攻撃よりも見つけやすい。モデルの精度が大幅に落ちるから、何かおかしいってすぐに分かるんだ。要するに、ラベルフリッピングはモデルが間違ったことを学ぶように騙して、未来の決定でミスを引き起こすってわけ。