Deepfakes – eine wachsende Bedrohung auch für Unternehmen

Was ist ein „Deepfake“?

Deepfakes haben sich von einem skurrilen, vielleicht „originellen“ Social-Media-Phänomen zu einem ausgewachsenen Sicherheitsproblem entwickelt – auch für Unternehmen. Das liegt daran, dass mithilfe von KI solche Deepfakes sehr einfach und überzeugend herzustellen sind. Der AI Act definiert als „Deepfake“ mit KI generierte oder manipulierte Bild-, Audio-, Text- oder Videoinhalte, die tatsächlichen Personen, Objekten, Orten, Entitäten oder Ereignissen ähneln und authentisch oder wahr erscheinen, ohne es zu sein. Rechtlich relevant wird ein Deepfake, wenn er gezielt für Täuschung, Manipulation oder Betrug eingesetzt wird. Deepfakes sind gleichzeitig ein Cybersicherheits-, Betrugs- und Datenschutzthema.

Welche Gefahren bringen Deepfakes für Unternehmen?

Deepfakes sind oft personenbezogen (Gesicht, Stimme, Gestik, Kontext). Sobald eine Person identifiziert oder identifizierbar ist, greift das Datenschutzrecht, weil der Deepfake bewusst eine Verbindung zu einer natürlichen, lebenden Person herstellen soll. Gängige Formen von Deepfake-Angriffen im betrieblichen Kontext sind:

• Face Swapping: Bestehende Bilder oder Videos werden mit dem Gesicht und gegebenenfalls der Stimme einer anderen Person versehen.
• Face Reenactment: Neue Inhalte werden auf Basis von bestehendem Video- und Audiomaterial einer Person zugeordnet.
• Synthese neuer Identitäten: Nicht existente Personen interagieren mit natürlichen Personen, ohne als KI-Chimären gekennzeichnet zu sein.

Die Einsatzgebiete sind vielfältig. Es reicht vom „CEO-Fraud“, also dem Anruf eines Vorgesetzten mit der Bitte um eine rasche, aber geheime Überweisung, über die Manipulation von Beweismitteln (Vorspiegelung scheinbarer Belege für Straftaten) bis zu gefälschten intimen Inhalten zur Ausübung von Gewalt, Erpressung oder Rufschädigung. Deepfakes funktionieren inzwischen sogar als Videos in Echtzeit, etwa in einer Videokonferenz, wo sich jemand in betrügerischer Absicht mit dem Gesicht einer anderen Person zuschaltet.

Deepfakes aus Sicht des Datenschutzes

Aus Sicht des Datenschutzes sind Deepfakes häufig mit Identitätsdiebstahl verbunden. Da sich ein Risiko für die betroffene Person ergibt, handelt es sich auch um einen meldepflichtigen Datenschutzvorfall bzw um einen Grund für eine Beschwerde bei der Datenschutzbehörde. Ein erfolgreicher Deepfake-Angriff zeigt freilich auch offenen Flanken bei der Cybersicherheit auf: Die technisch-organisatorischen Maßnahmen müssen überprüft und angepasst bzw verschärft werden, etwa die Multi Factor Authentification.

Die DSGVO behandelt Deepfakes nicht ausdrücklich, aber greift mit ihren grundsätzlichen Festlegungen. So stellt nach der DGSVO die Verwendung von Bildern, Stimme und Videos einer natürlichen Person bereits eine Datenverarbeitung dar und verlangt somit die Offenlegung der Informationspflicht, der Rechtsgrundlage und der Zwecke gegenüber der betroffenen Person. Werden Bilddaten zur eindeutigen Identifizierung verwendet, greift das Verbot Art 9 Abs 1 DSGVO, dh eine ausdrückliche Einwilligung (Art 9 Abs 2 DSGVO) wird vorausgesetzt. Dies betrifft auch die Verarbeitung von solchem personenbezogenen Material zum Training von KI-Systemen. Gem AI Act wird ab 2. August 2026 jede Verbreitung von KI-generierten Inhalten ohne geeignete Kennzeichnung ein automatischer Verstoß durch den Betreiber der KI-Applikation. Nicht zuletzt unterliegen Deepfakes auch dem Urheberrechtsgesetz, in dem das Recht am eigenen Bild gesetzlich verankert ist (§ 78 UrhG).

Wie lassen sich Deepfake-Angriffe im Betrieb abwehren?

Die Abwehr von Deepfake-Angriffen im Unternehmen verlangt einen konzertierten Einsatz von organisatorischen, technischen und sozialen Maßnahmen. Zu den organisatorischen Schutzmaßnahmen gehören etwa die „Call-back“-Regel (Zahlungsfreigaben oder Kontodatenänderungen nur nach Rückruf über bekannte Nummern), der Einbau eines weiteren Faktors zur Verifikation (etwa Einmal-Code) und die Vereinbarung von Handlungsstrategien für Management, Empfang, Servicedesk, Finanz, HR und IT.
Zu den technischen Schutzmaßnahmen gehören zum Beispiel:

• E-Mail-Authentisierung (SPF, DKIM, DMARC)
• Starke Multi Factor Authentifizierung (MFA)
• Security Information and Event Management (SIEM)
• die Definition sicherer Kanäle besonders für Finanztransaktionen.

Auch soziale Schutzmaßnahmen sind für die Abwehr von Deepfake-Angriffen wichtig, ist ihr Einfallstor doch immer der Mensch, der vielleicht zunächst seiner Wahrnehmung vertraut, aber auch sein Gespür dafür trainieren kann, ob etwas nicht ganz richtig ist. Aufseiten von Mitarbeiter:innen lässt sich mancher Deepfake-Angriff mit einem Moment Überlegung entkräften: Passt der „Ton“ zum üblichen Verhalten oder verhält sich die Person freundlicher/strenger? Erfolgt die Kontaktaufnahme auf einem üblichen Weg? Ist es überhaupt möglich, dass die Kontaktaufnahme jetzt erfolgt? – Zugleich sollten Nachfragen im Zweifelsfall vonseiten der Management-Ebene begrüßt und ermutigt werden. Lieber einmal zu oft nachgefragt als einem Identitätsdiebstahl aufgesessen…

Conclusio

Deepfakes sind häufig strafrechtlich relevant, betreffen aber auch die Cybersicherheit und den Datenschutz. Sobald Deepfakes personenbezogene Daten betreffen, ist die Datenschutz-Grundverordnung der rechtliche Bezugsrahmen – und die Datenschutzbehörde die zuständige Behörde. Ab 2. August 2026 tritt zudem die Verpflichtung des AI Act zur Kennzeichnung jeglicher KI-generierter oder manipulierter Inhalte in Kraft. Zur Abwehr von Deepfake-Vorfällen sind klare und strenge Schutzmaßnahmen nötig: technische, organisatorische und soziale Maßnahmen, die durch Schulungen fest verankert werden.