Was bedeutet "Passive Verteidigung"?

Inhaltsverzeichnis

Passive Verteidigungsmaßnahmen sind Techniken, die genutzt werden, um Computersysteme, besonders solche mit Deep Learning, vor Angriffen zu schützen, ohne das Verhalten des Modells aktiv zu stören oder zu verändern. Stattdessen konzentrieren sich diese Methoden darauf, es Angreifern schwerer zu machen, erfolgreich zu sein.

Eine gängige Art der passiven Verteidigung besteht darin, wie Modelle lernen, zu justieren. Zum Beispiel kann eine Methode die Aufmerksamkeit eines Modells auf schädliche Muster in den Daten, die für Angriffe genutzt werden könnten, begrenzen. So bleibt das Modell auf sicheren, nützlichen Informationen fokussiert.

Eine andere Strategie ist, zu messen, wie empfindlich ein Modell auf bestimmte Eingaben reagiert. Indem man versteht, welche Eingaben Probleme verursachen könnten, können Entwickler Anpassungen vornehmen, um das Risiko von Angriffen zu verringern. So kann das Modell seine Leistung aufrechterhalten und gleichzeitig die Verwundbarkeit reduzieren.

Zusammengefasst zielen passive Verteidigungsmaßnahmen darauf ab, Modelle gegen Angriffe zu stärken, indem sie den Lernprozess anpassen und potenzielle Risiken verstehen, anstatt direkt zurückzuschlagen, wenn ein Angriff erfolgt.