Formen von KI-basierter Gewalt kennen und erkennen

Was ist KI-basierte Gewalt?

KI dringt in immer weitere Bereiche unseres Lebens ein und bestimmt es somit immer mehr. Dies führt einerseits zu vielen Erleichterungen im Alltag, allerdings bietet die KI auch Kriminellen die Chance, Gewalttaten oder illegale Handlungen schneller, einfacher und/oder effizienter durchzuführen. Oftmals ist auch die Nachverfolgung dieser Angriffe besonders schwierig. Eine wesentliche Rolle bei neueren, KI-basierten Formen der Gewalt spielen Deepfakes. Die KI-Verordnung der Europäischen Union definiert Deepfakes als „KI-generierte oder manipulierte Bild-, Audio- oder Videoinhalte, die existierenden Personen, Objekten, Orten, Einrichtungen oder Ereignissen ähneln und einer Person fälschlicherweise als authentisch oder wahrheitsgemäß erscheinen würden“. Deepfakes zu erkennen und gegen sie vorzugehen wird ein immer wichtiger werdender Teil unserer Medienkompetenz sein.

Was ist Social Engineering?

Unter Social Engineering versteht man die psychologische Manipulation von Menschen, um sie zu bestimmten Verhaltensweisen zu bewegen, wie der Preisgabe vertraulicher Daten, der Überweisung von Geld oder dem Öffnen von Sicherheitslücken. Angreifer nutzen also nicht technische Schwachstellen aus, sondern sie nutzen Vertrauen, Autorität oder Neugier aus, um Sicherheitsmaßnahmen zu umgehen. Ziel ist es, Personen dazu zu bringen, vertrauliche Informationen preiszugeben oder sicherheitskritische Handlungen auszuführen.

Social Engineering hat es auch schon vor der Entwicklung der KI gegeben, aber die Künstliche Intelligenz ermöglicht es Täter:innen jetzt, durch Deepfakes und Sprachmodelle täuschend echte Video- oder Tonaufnahmen zu erzeugen oder nahezu makellose Phishing-Mails zu erstellen. Insgesamt kann man davon sprechen, dass die Angreifer durch die KI glaubwürdiger werden. Dies passiert einerseits durch synthetische Stimmen, die beispielsweise wie der eigene Chef oder die eigene Chefin klingen. Andererseits ist die KI auch dazu imstande, öffentlich verfügbare Daten, zum Beispiel auf Social Media oder Webseiten, schnell zu analysieren und dementsprechend maßgeschneiderte Angriffe auf gewisse Personen zu planen und auszuführen. Man spricht hier auch von Spear-Phishing. Ein weiterer Vorteil durch die KI ergibt sich für die Angreifer durch die Automatisierung der Angriffe. Diese müssen nicht mehr von einer Person durchgeführt werden, sondern es gibt Chatbots oder Telefonbots, die – ähnlich wie echte Gespräche – in Echtzeit mit den Opfern interagieren und automatisiert ablaufen.

Welche präventiven Maßnahmen können gegen KI-basierte Gewalt gesetzt werden?

Um nicht Opfer von Social Engineering zu werden, gilt es eine Reihe von Dingen zu beachten. Das Wichtigste dabei ist aber, die technischen Möglichkeiten zu kennen und zu wissen, dass es so etwas wie Deepfakes gibt und was sie leisten können. Nur so kann man ein Bewusstsein für Gefahren entwickeln. Folgende Punkte sollte man präventiv beachten:

• Kritisch hinterfragen: Ist diese Nachricht vertrauenswürdig? Kenne ich diese Person oder gibt es für mich eine andere Möglichkeit, die Identität zu verifizieren? Gibt es andere Kommunikationskanäle, um diese Person zu erreichen? Gibt es die Möglichkeit eines Rückrufs?
• Warnsignale beachten: Besondere Vorsicht ist geboten, wenn Druck aufgebaut wird, sich jemand auf Autorität beruft, starke Emotionen ausgelöst werden, Geheimhaltung verlangt wird oder nach Geld bzw sensiblen Daten gefragt wird.
• Passwörter oder PINs niemals weitergeben: Eine Bank oder andere Institutionen werden niemals am Telefon nach einem Passwort oder anderen Informationen fragen.
• Technische Maßnahmen: Sicherheitsmaßnahmen wie Mehrfaktor-Authentifizierung, ein Passwortmanager sowie aktuelle Software und Spamfilter helfen, das Risiko zu reduzieren.
• Thematisierung in der Familie: Wenn man von einer neuen Nummer von einem vermeintlichen Familienmitglied kontaktiert wird, sollte man immer misstrauisch sein und im Zweifel probieren, die Person auf bekanntem Wege zu kontaktieren. Auch ein vereinbartes Codewort oder eine Codefrage können helfen. Man kann auch vereinbaren, nur im persönlichen Kontakt um Geld zu bitten.
• Richtlinien im Unternehmen: Es sollte klar geregelt sein, wer in welchen Fällen Anweisungen geben kann, außerdem sollte bei (größeren) Überweisungen das Vier-Augen-Prinzip herrschen.
• Die Watchlist Internet (https://www.watchlist-internet.at/) informiert darüber, welche Betrugsmaschen derzeit angewendet werden. Regelmäßige Besuche dieser Seite können dabei unterstützen, Betrüger:innen schneller zu identifizieren.
• Die Arbeiterkammer Wien bietet auch umfangreiche Informationen und Unterstützung: https://wien.arbeiterkammer.at/service/broschueren/konsument/Internetbetrug_aky_bf.pdf

Was versteht man unter Sextortion?

Sextortionist eine Form der Erpressung, bei der Betroffenen damit gedroht wird, dass intime Bilder oder Videos von ihnen veröffentlicht werden oder an Arbeitergeber:in, Familie, Ehepartner:in übermittelt werden. Betroffene werden zu Zahlungen aufgefordert, um abzuwenden, dass diese Aufnahmen öffentlich werden. Während Sextortion früher im Rahmen von Nachtrennungsgewalt passierte und mit echten Aufnahmen gedroht wurde bzw Hacker sich Zugang zu echten Videos verschafft haben, sind viele dieser Bilder heute mit KI erstellt. Das heißt, Kriminelle können sich mit wenigen Aufnahmen der Opfer manipulierte Bilder/Videos erstellen und mit diesen dann Betroffene erpressen. Da von KI erstellte Bilder mittlerweile täuschend echt sind, reagieren Betroffene sehr stark auf diese Bilder. Während die meisten Opfer von Sextortion im Rahmen von Nachtrennungsgewalt Frauen sind, werden bei Sextortion auch Männer und gezielt Jugendliche verfolgt.

Opfer von Betrug zu werden, vor allem wenn dieser Betrug mit intimen Bildern in Zusammenhang steht, führt bei Betroffenen (unabhängig vom Geschlecht) oftmals zu Schamgefühlen, Versagensgefühlen und in Folge neben einem finanziellen Schaden zu psychischen Problemen.

Was ist Deepfake-Pornografie?

Deepfake-Pornografie ist ein relativ neues Gewaltphänomen innerhalb der digitalen Gewalt: Das sind sexualisierte, pornografische Bilder und Videos von Frauen und Mädchen, die mit KI erstellt werden. Dieses Bildmaterial ist täuschend echt und aufgrund der rasanten technischen Entwicklungen leicht zu erstellen. Medien im weitesten Sinne werden seit jeher eingesetzt, um Menschen (vor allem Frauen) zu diskreditieren und unter Druck zu setzen, die Erstellung von pornografischen Deepfakes ist seit 2017 ein Problem für eine stark wachsende Anzahl an Frauen und Mädchen bzw eine weitere potenzielle Bedrohung für alle Frauen und Mädchen. Bei pornografischen Deepfakes wird der Kopf einer Frau gegen ihren Willen bzw in ihrer Unwissenheit auf eine pornografische Aufnahme „montiert“ – mit gravierenden Folgen für die Betroffenen. Ziel der Täter ist es, die Frauen oder Mädchen zu erniedrigen, sie zum Schweigen zu bringen oder sie aus der Öffentlichkeit zu verdrängen. Während das Problem von Deepfakes bislang vor allem in Zusammenhang mit Videos von Politiker:innen öffentlich bekannt ist, wurde bislang wenig über die verheerenden Folgen für betroffene Frauen und Mädchen gesprochen. Die Zahlen sprechen dafür, dass der Fokus stärker auf pornografische Deepfakes und die betroffenen Frauen gelegt werden sollte: 98 Prozent aller erstellten Deepfakes haben sexualisierte Inhalte und 99 Prozent aller Deepfake-Pornos betreffen Frauen (Zahlen für das Jahr 2023).

Mit dem Eindringen von KI in unseren Alltag wird eine neue Dimension an sexualisierter Gewalt gegen Frauen und Mädchen Realität. Dabei war es wohl nur eine Frage der Zeit, bis auch KI als Waffe gegen Frauen und Mädchen und damit gegen Gleichberechtigung eingesetzt wird. UN Women spricht davon, dass Frauen und Mädchen von Institutionen im Stich gelassen werden und es keinen adäquaten Schutz vor dieser Form von Gewalt gibt. Deepfake-Pornografie ist immer ein schwerwiegender Eingriff in die Persönlichkeitsrechte der betroffenen Person mit unabschätzbaren Folgen für Betroffene.

Deepfake-Pornografie ist eine Form von Gewalt, die vor allem gegen Frauen und Mädchen global eingesetzt wird. Frauen in unterschiedlichen Gesellschaften, aus unterschiedlichen sozialen Zusammenhängen, unterschiedlichen Altersgruppen, von unterschiedlichem Status und Ansehen sind betroffen. Kurz gesagt, jede Frau und jedes Mädchen kann Opfer werden. Theoretisch können auch Männer und Buben Opfer von Deepfake-Pornografie werden, doch ist erstens die Möglichkeit sehr gering (wie bereits geschrieben zeigen 99 Prozent pornografischer Deepfakes Frauen und Mädchen) und zweitens ist die KI in der Erstellung von pornografisch-männlichen Deepfakes lange nicht so weit ausgereift.

Wenn die Deepfakes einmal im Netz sind, ist es extrem schwierig bis unmöglich, sie wieder zu entfernen. Je öfter sie bereits gesehen wurden, umso höher die Chance, dass User(:innen) sie geteilt, gespeichert und weiterverbreitet haben. Theoretisch bieten Plattformen zwar die Möglichkeit an, dass bestimmte Inhalte offline gestellt werden, in der Praxis ist es allerdings ein langer bis unmöglicher Weg.

Was sind die persönlichen Folgen für die Opfer

Nicht alle Betroffenen wissen, dass es Deepfakes mit pornografischen Inhalten von ihnen online gibt. Oftmals erfahren Frauen durch Zufall davon, dass sie vermeintlich Teil eines „Pornos“ sind. Die meisten Frauen erleben massive Schamgefühle, körperliches Unwohlsein, sie übergeben sich, sie ziehen sich zurück, manche erleben Suizidgedanken und andere Frauen begehen tatsächlich Suizid. Die Folgen von Deepfake Pornografie sind für die Opfer sehr real und daher müssen Deepfakes als reale Gewalt begriffen werden.

• Emotionale Folgen: Betroffene leiden unter Gefühlen von Scham und Hilflosigkeit. Sie ziehen sich zurück und werden ihrer Umwelt gegenüber misstrauisch, da potentiell jede Person Täter (Täterin) sein könnte. Betroffene fühlen sich degradiert und entwickeln das Gefühl von Wertlosigkeit.
• Durch die andauernde psychische Belastung kann es zu chronischen psychischen Problemen kommen: Angststörungen, Panikattacken, Flashbacks. Manche Betroffene entwickeln eine posttraumatische Belastungsstörung.
• In ganz schlimmen Fällen kann es zu Suizidgedanken, -versuchen und im äußersten sogar zu Suizid kommen.
• Opfer, die sich zur Wehr setzen und öffentlich über das Erlebte sprechen, müssen damit rechnen, dass es einerseits gesellschaftlichen Gegenwind gibt, sie in den sozialen Medien von weiteren Abwertungen betroffen sind und sie im worst case gedoxxt werden, dh, ihre persönlichen Daten – wie zB ihre Adresse – werden öffentlich gemacht.

Conclusio

KI-basierte Gewalttritt in unterschiedlichen Formen auf. Die Folgen können für Betroffene fatal sein. Ein kritischer Blick auf die Weitergabe von sensiblen Daten sind daher wichtiger denn je.