2.4 Hochrisiko-KI-System
Wenn ein KI-System nicht schon verboten ist, ist im nächsten Schritt zu bewerten, ob das KI-System in die Kategorie der Hochrisiko-KI-Systeme fällt. Es muss daher geprüft werden, ob das System dem harmonisierten Produktsicherheitsrecht nach Anhang I unterliegt oder in den Anwendungsbereich von Anhang III KI-VO fällt. Die KI-Verordnung stellt bei der Einordnung eines KI-Systems als Hochrisiko-KI-System auf die vom Anbieter intendierte Nutzung des Systems ab. Hat der Anbieter in seiner Betriebsanleitung eine Nutzung zu den vom Betreiber angestrebten Zweck untersagt und nutzt der Betreiber das KI-System dennoch zu einem Hochrisiko-Zweck, können jedoch trotzdem die Anforderungen und Pflichten für den Betrieb eines Hochrisiko-KI-Systems zur Anwendung kommen (zum Rollenwechsel siehe Kapitel 2.6). Der Betreiber wird regelmäßig die Definition in Art 6 KI-VO und die Anhänge I und III der VO genau prüfen und kennen müssen, um zu identifizieren, ob durch die intendierte Nutzung des Systems Vorschriften über Hochrisiko-KI-Systeme zur Anwendung kommen.
