1.3.2 Vorliegen eines Fehlers
Ein Produkt gilt als fehlerhaft, wenn es nicht die erwartete oder gesetzlich vorgeschriebene Sicherheit bietet.
Unter der neuen Produkthaftungsrichtlinie können zudem KI-Systeme, die nach dem Inverkehrbringen lernen oder neue Funktionen erwerben, ebenso als fehlerhaft gelten. Wenn ein Hersteller KI-Systeme mit der Fähigkeit entwickelt, ihr Verhalten im Laufe des Betriebs anzupassen, so haftet er auch nach dem Verkauf weiterhin für ein Verhalten, welches einen Schaden verursacht. Entsprechend muss die Software eines Produkts oder die zugrunde liegenden Algorithmen eines KI-Systems so konzipiert werden, dass ein gefährliches Produktverhalten verhindert wird. Dabei kommt es auf den Zeitpunkt an, an dem das KI-System die Kontrolle des Herstellers verlässt (Art 7 Abs 2 lit e, Erwägungsgrund 32 ProdHaftRL). Wann dieser Zeitpunkt bei selbstlernenden KI-Systemen eintritt, wird wohl im Einzelfall zu beurteilen sein.
