14.4.5 Verbraucherprodukte mit KI
Wirtschaftsakteure, die Verbraucherprodukte mit integrierten KI‑Funktionen auf dem Markt bereitstellen, müssen neben den produktsicherheitsrechtlichen Anforderungen der einschlägigen Harmonisierungsrechtsvorschriften und der GPSR auch die Bestimmungen des AI Act (Verordnung (EU) 2024/1689) einhalten. Sobald ein KI‑System sicherheitsrelevante Funktionen eines CE‑Produkts übernimmt oder in dessen sicherheitsbezogene Entscheidungen eingreift, wird es gem Art 6 AI Act als Hochrisiko‑KI‑System eingestuft, was zusätzliche regulatorische Pflichten auslöst. Dazu gehören insbesondere die Einrichtung eines umfassenden Risikomanagementsystems, Anforderungen an Datenqualität und Daten‑Governance, die Erstellung einer vollständigen technischen Dokumentation, die Einhaltung von Aufzeichnungs‑ und Transparenzpflichten sowie Vorgaben zur menschlichen Aufsicht und Systemrobustheit. Darüber hinaus müssen Anbieter ein Qualitätsmanagementsystem betreiben, das KI‑System nach dem Inverkehrbringen überwachen, Korrekturmaßnahmen einleiten und die zuständigen Behörden unverzüglich informieren, wenn Sicherheitsrisiken erkennbar werden. Diese KI‑spezifischen Vorgaben gelten zusätzlich zu den sektoralen CE‑Vorschriften und den horizontalen Pflichten der GPSR, sodass ein Verbraucherprodukt nicht allein aufgrund der Konformität seines Grundprodukts bereitgestellt werden darf, sondern erst dann, wenn auch sämtliche KI‑bezogenen Anforderungen vollständig erfüllt sind.
