Adversarial Training: Schutz vor Evasion-Angriffen

Als Adversarial Training wird eine Methode bezeichnet, die zur Härtung (dh zur Erhöhung der Widerstandsfähigkeit eines IT-Systems gegenüber Angriffen, Fehlfunktionen oder Manipulationen) von KI-Modellen verwendet wird, indem das Modell während des Trainingsprozesses gezielt manipulierten Daten ausgesetzt wird. Durch das Einbringen von leicht modifizierten Daten, so genannten „adversarialen Beispielen“, in den Trainingsprozess lernt das KI-System, solche Manipulationen zu erkennen und abzuwehren. Dabei wird die Robustheit des Modells erhöht, indem es die Entscheidungsgrenzen so anpasst, dass es ähnliche, aber dennoch schädliche Eingaben korrekt klassifiziert.

Ein Gesichtserkennungssystem kann beispielsweise so trainiert werden, dass es auch bei minimal veränderten Bildern, etwa bei Pixelstörungen, zuverlässige Ergebnisse liefert, um Täuschungsversuche zu reduzieren. Diese Methode erfordert jedoch einen hohen Rechenaufwand für Training und Tests, zudem entwickeln sich die Angriffe kontinuierlich weiter, sodass regelmäßige Modellupdates notwendig sind.