08.04.2026 | Datenschutz & IT | ID: 1263297

Transparenzpflichten für KI-generierte Inhalte: Was es ab dem 02.08. zu beachten gilt

Daniela Birnbauer

Ab dem 2. August 2026 werden die Transparenzpflichten nach Art. 50 der KI-Verordnung anwendbar. Diese Vorschriften betreffen Anbieter und Betreiber von KI-Systemen gleichermaßen.

Art 50 KI-VO etabliert Transparenzpflichten für bestimmte KI-Systeme, unabhängig davon, ob diese als hochriskant eingestuft werden. In Vorbereitung auf dessen Anwendbarkeit entwickelt das AI Office einen „Code of Practice on Marking and Labelling of AI-Generated Content“, der die praktische Umsetzung dieser Pflichten konkretisieren soll.

Welche Transparenzpflichten sieht die KI-Verordnung vor?

Art 50 KI-VO unterscheidet vier Fallgruppen mit jeweils unterschiedlichen Adressaten:

1. KI-Systeme in direkter Interaktion mit Menschen (Art 50 Abs 1)

Anbieter von KI-Systemen, die für die direkte Interaktion mit Menschen bestimmt sind, wie Chatbots und virtuelle Assistenten, müssen sicherstellen, dass betroffene Personen über den Umstand informiert werden, dass sie mit einem KI-System interagieren, es sei denn, dies ist aus den Umständen ohnehin offensichtlich.

2. Maschinenlesbare Kennzeichnung synthetischer Inhalte (Art 50 Abs 2)

Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen sicherstellen, dass die Ausgaben ihres Systems in einem maschinenlesbaren Format als „künstlich erzeugt“ oder „manipuliert“ gekennzeichnet und erkennbar sind. Die eingesetzten technischen Lösungen müssen – soweit technisch möglich – wirksam, interoperabel, belastbar und zuverlässig sein.

3. Emotionserkennung und biometrische Kategorisierung (Art 50 Abs 3)

Betreiber eines Emotionserkennungssystems oder eines KI-Systems zur biometrischen Kategorisierung müssen die betroffenen natürlichen Personen über den Betrieb dieses Systems informieren. Zu beachten ist, dass die Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen nach Art 5 Abs 1 lit f KI-VO generell verboten ist, sofern sie nicht medizinischen oder sicherheitsrelevanten Zwecken dient.

4. Deepfakes und KI-generierter Text von öffentlichem Interesse (Art 50 Abs 4)

Diese Fallgruppe umfasst zwei Unterkategorien:

• Deepfakes: Betreiber müssen offenlegen, dass Bild-, Ton- oder Videoinhalte künstlich erzeugt oder manipuliert wurden, sofern sie als Deepfake gelten. Ein „Deepfake“ ist nach Art 3 Nr 60 KI-VO ein durch KI erzeugter oder manipulierter Bild-, Audio- oder Videoinhalt, der existierenden Personen, Objekten, Orten, Einrichtungen oder Ereignissen ähnelt und fälschlicherweise als authentisch erscheinen würde. Eine Täuschungsabsicht ist daher nicht erforderlich.

• KI-generierter Text zu öffentlichen Angelegenheiten: Betreiber, die mittels KI-Text erzeugen oder manipulieren, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, müssen ebenfalls offenlegen, dass der Text künstlich erzeugt oder manipuliert wurde. Diese Pflicht entfällt allerdings, wenn die KI-generierten Inhalte einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden.

Der Code of Practice on Marking and Labelling: Freiwillig, aber faktisch verbindlich

Gem Art 50 Abs 7 KI-VO fördert und erleichtert das AI Office die Ausarbeitung von Praxisleitfäden (Codes of Practice), um die wirksame Umsetzung der Kennzeichnungspflichten zu unterstützen. Der erste Entwurf des Code of Practice wurde am 17. Dezember 2025 veröffentlicht, der zweite Entwurf folgte am 3. März 2026. Die finale Fassung wird für Anfang Juni 2026 erwartet. Weitere Informationen zum Code of Practice finden sich hier: https://digital-strategy.ec.europa.eu/en/policies/code-practice-ai-generated-content

In der Praxis dürfte der Code of Practice damit zum faktischen Maßstab werden, den zuständige Behörden bei der Beurteilung der Compliance heranziehen. Unternehmen, die einen alternativen Weg wählen, müssen im Durchsetzungsfall nachweisen, dass ihre Lösung mindestens ebenso wirksam ist wie die Maßnahmen des Code of Practice.

Fazit

Die Transparenzpflichten nach Art 50 KI-VO werden häufig unterschätzt, weil sie – anders als die Hochrisiko-Vorgaben – keine umfangreichen Konformitätsbewertungen erfordern. Ihr Anwendungsbereich ist jedoch erheblich breiter und betrifft im Grunde jedes Unternehmen, das generative KI einsetzt oder Inhalte erstellt, die durch KI erzeugt oder manipuliert wurden. Der Code of Practice on Marking and Labelling wird sich voraussichtlich zum De-facto-Standard entwickeln, an dem Marktüberwachungsbehörden die Einhaltung der gesetzlichen Pflichten messen werden. Unternehmen sollten die Veröffentlichung der finalen Fassung im Juni 2026 aufmerksam verfolgen und ihre internen Prozesse rechtzeitig vor dem 2. August 2026 anpassen.