Risikoeinschätzung nach der KI-Verordnung

I. Problemstellung identifizieren/definieren

Folgendes Problem liegt vor:

… [kurze Beschreibung der Problemstellung, die gelöst werden soll]

II. Prüffrage: KI-System	ja	nein
Frage 1: Handelt es sich bei der angedachten Lösung um ein IT-System (maschinengestütztes System)?
Frage 2: Handelt es sich bei dem IT-System um Künstliche Intelligenz im Sinne der KI-Verordnung? Anmerkung: Prüfen Sie anhand der untenstehenden wesentlichen Merkmale, ob es sich bei dem System um KI handelt: Ein maschinengestütztes System: das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist; nach seiner Betriebsaufnahme anpassungsfähig sein kann; und das für explizite oder implizite Ziele; aus den erhaltenen Eingaben ableitet, wie Ausgaben erstellt werden; wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen; und physische oder virtuelle Umgebungen durch diese Entscheidungen beeinflusst werden können.
Begründen Sie die Einstufung kurz: … [kurze Begründung zu der vorgenommenen Einstufung]
Falls Sie die vorigen Fragen mit „nein“ beantwortet haben, kann die Prüfung an diesem Punkt beendet werden.

III. Prüffrage: Liegt eine verbotene KI-Praktik vor (Art 5 KI-VO)?	ja	nein
Frage 1: Manipuliert oder beeinflusst das KI-System menschliches Verhalten oder nützt die Vulnerabilität bestimmter Personen(gruppen) aus (zB Ausnutzen von Schwächen wie Alter oder Behinderung), um das Verhalten einer Person (zB Entscheidungen) wesentlich zu verändern?
Frage 2: Wird das KI-System zur Bewertung oder Einstufung von Personen(gruppen) auf Grundlage ihres sozialen Verhaltens oder persönlicher Eigenschaften/Merkmale eingesetzt, wobei die Bewertung zu einer Schlechterstellung oder Benachteiligung dieser Personen führen kann?
Frage 3: Wird das KI-System zur prädiktiven Polizeiarbeit auf personenbezogener Basis genutzt, die auf Profilen oder Vorhersagen über Einzelpersonen beruhen, um strafrechtliche Maßnahmen zu ergreifen?
Frage 4: Wir das KI-System zur Erstellung oder Erweiterung von Datenbanken zur Gesichtserkennung durch das ungezielte Auslesen von Gesichtsbildern aus dem Internet/von Überwachungsaufnahmen eingesetzt?
Frage 5: Wird das KI-System zur Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen genutzt?
Frage 6: Wird das KI-System zur biometrischen Kategorisierung von einzelnen Personen genutzt?
Frage 7: Findet eine Echtzeit-Überwachung (biometrische Identifizierung) in öffentlichen zugänglichen Räumen durch Strafverfolgungsbehörden statt?
Bei Grenzfällen begründen Sie die Einstufung kurz: … [kurze Begründung zu der vorgenommenen Einstufung]
Falls Sie eine der Fragen zur verbotenen KI-Praktik mit „ja“ beantwortet haben, ist die angestrebte Nutzung von KI nach der KI-Verordnung wahrscheinlich verboten und darf das KI-System in der Form nicht benutzt werden. Falls Sie die Fragen verneint haben, dann fahren Sie bitte mit der Prüfung fort.

IV. Prüffrage: Liegt ein Hochrisiko-KI-System vor (Art 6 KI-VO)?
Wird das KI-System als Sicherheitsbauteil folgender Produkte verwendet oder ist das KI-System selbst ein solches Produkt nach den folgenden Rechtsakten (Anhang I)?	ja	nein
Richtlinie 2006/42/EG über Maschinen
Richtlinie 2009/48/EG über die Sicherheit von Spielzeug
Richtlinie 2013/53/EU über Sportboote und Wassermotorräder
Richtlinie 2014/33/EU über Aufzüge und Sicherheitsbauteile für Aufzüge
Richtlinie 2014/34/EU über Geräte und Schutzsysteme zur bestimmungsgemäßen Verwendung in explosionsgefährdeten Bereichen
Richtlinie 2014/53/EU über Funkanlagen
Richtlinie 2014/68/EU über die Bereitstellung von Druckgeräten auf dem Markt
Verordnung 2016/424 über Seilbahnen
Verordnung 2016/425 über persönliche Schutzausrüstungen
Verordnung 2016/426 über Geräte zur Verbrennung gasförmiger Brennstoffe
Verordnung 2017/745 über Medizinprodukte
Verordnung 2017/746 über In-vitro-Diagnostika
Handelt es sich um ein KI-System nach Anhang III KI-VO?	ja	nein
Frage 1: Erkennt, identifiziert oder kategorisiert das KI-System Personen anhand ihrer biometrischen Daten, insbesondere für die Fernidentifizierung?
Frage 2: Wird das KI-System zur Emotionserkennung verwendet?
Frage 3: Steuert, überwacht oder beeinflusst das KI-System als Sicherheitsbauteil kritische Infrastrukturen wie digitale Infrastruktur, den Straßenverkehr oder die Wasser-, Gas-, Wärme- oder Stromversorgung?
Frage 4: Wird das KI-System für die Bewertung, Einstufung oder Entscheidungsfindung im Bildungs- oder Ausbildungsbereich eingesetzt, zB für Prüfungen oder Zulassungen?
Frage 5: Wird das KI-System für Personalmanagement-Aufgaben genutzt, insbesondere für die Auswahl, Bewertung, Überwachung, Beförderung oder Kündigung von Arbeitnehmer:innen?
Frage 6: Wird das KI-System im Zusammenhang mit dem Zugang zu und der Inanspruchnahme wesentlicher öffentlicher Unterstützungsleistungen (einschließlich Gesundheitsdienste) eingesetzt?
Frage 7: Wird das KI-System für die Kreditwürdigkeitsprüfung oder Bonitätsbewertung natürlicher Personen verwendet?
Frage 8: Wird das KI-System zur Risikobewertung oder Preisbildung in Bezug auf natürliche Personen im Fall von Lebens- und Krankenversicherungen eingesetzt?
Frage 9: Wird das KI-System zur Bewertung und Klassifizierung von Notrufen oder für die Triage von Patient:innen bei der Notfallversorgung verwendet?
Frage 10: Wird das KI-System in Strafverfolgung, Migration, Grenzkontrollen oder Asylverfahren eingesetzt, insbesondere zur Risikobewertung oder Erkennung potenzieller Straftaten?
Frage 11: Unterstützt oder automatisiert das KI-System Justiz- und Verwaltungsverfahren, insbesondere durch Beweisbewertung oder rechtliche Entscheidungsfindung?
Frage 12: Beeinflusst das KI-System politische Wahlprozesse oder demokratische Partizipation, insbesondere durch gezielte Meinungsbildung oder Desinformation?
Bei Grenzfällen begründen Sie die Einstufung kurz: … [kurze Begründung zu der vorgenommenen Einstufung]
Falls eine der vorigen Fragen zu Hochrisiko-KI-Systemen mit „ja“ beantwortet wurde, liegt wahrscheinlich ein Hochrisiko-KI-System vor. Die zu erfüllenden Pflichten finden Sie in den Checklisten „Rechtliche Anforderungen nach KI-Verordnung für Anbieter“ sowie „Rechtliche Anforderungen nach KI-Verordnung für Betreiber“. Prüfen Sie bitte zunächst die folgenden Ausnahmen. Falls Sie die vorigen Fragen verneint haben, überspringen Sie diesen Punkt und prüfen die Rollenverteilung nach der KI-Verordnung.
Greift eine Ausnahme von der Einstufung als Hochrisiko-KI-System?	ja	nein
Frage 1: Ist das KI-System dazu bestimmt, eine eng gefasste Verfahrensaufgabe durchzuführen?
Frage 2: Ist das KI-System dazu bestimmt, das Ergebnis einer zuvor abgeschlossenen menschlichen Tätigkeit zu verbessern?
Frage 3: Ist das KI-System dazu bestimmt, Entscheidungsmuster oder Abweichungen von früheren Entscheidungsmustern zu erkennen, und ist nicht dazu gedacht, die zuvor abgeschlossene menschliche Bewertung, ohne eine angemessene menschliche Überprüfung zu ersetzen oder zu beeinflussen?
Frage 4: Ist das KI-System dazu bestimmt, eine vorbereitende Aufgabe für eine Bewertung durchzuführen nicht jedoch die Bewertung selbst?
Bei Bejahung einer Ausnahme begründen Sie kurz: … [kurze Begründung zu der vorgenommenen Einstufung]
Falls Sie eine der Fragen mit „ja“ beantwortet haben, dann handelt es sich wahrscheinlich um kein Hochrisiko-KI-System.

V. Prüffrage: Welche Rolle wird nach der KI-VO eingenommen?
Anbieter	ja	nein
Frage 1: Entwickeln Sie ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck im Sinne der KI-Verordnung?
Frage 2: Lassen Sie eines der zuvor genannten KI-Systeme oder KI-Modelle entwickeln und bringen es mit Ihrem eigenen Namen oder Handelsmarke in Verkehr?
Frage 3: Lassen Sie eines der zuvor genannten KI-Systeme oder KI-Modelle entwickeln und nehmen Sie es unter Ihrem eigenen Namen oder Handelsmarke in Betrieb?
Falls Sie eine der vorigen Fragen mit „ja“ beantwortet haben, gelten Sie wahrscheinlich als Anbieter iSd KI-Verordnung. Prüfen Sie dennoch weiter, da Sie in bestimmten Situationen auch mehrere Rollen gleichzeitig einnehmen können.
Betreiber	ja	nein
Frage 1: Nutzen Sie das KI-System im Rahmen Ihrer beruflichen oder geschäftlichen Tätigkeit?
Frage 2: Verwenden Sie das KI-System in eigener Verantwortung?
Falls Sie die vorigen Fragen mit „ja“ beantwortet haben, sind Sie wahrscheinlich Betreiber im Sinne der KI-Verordnung.
Einführer	ja	nein
Frage 1: Importieren Sie das KI-System aus einem Drittland (außerhalb der EU)?
Frage 2: Bringen Sie ein KI-System unter dem Namen oder der Marke einer in einem Drittland niedergelassenen natürlichen oder juristischen Person auf den Markt?
Falls Sie die vorigen Fragen mit „ja“ beantwortet haben, sind Sie wahrscheinlich Einführer eines KI-Systems.
Händler	ja	nein
Frage 1: Verkaufen oder vertreiben Sie ein KI-System, das ein Dritter entwickelt hat?
Frage 2: Verändern Sie das KI-System nicht wesentlich, sondern veräußern es nur weiter?
Falls Sie die vorigen Fragen mit „ja“ beantwortet haben, sind Sie wahrscheinlich Händler eines KI-Systems.
Rollenwechsel	ja	nein
Frage 1: Haben Sie ein bereits in Verkehr gebrachtes oder in Betrieb genommenes Hochrisiko-KI-System eines Dritten mit Ihrem Namen oder Ihrer Handelsmarke versehen?
Frage 2: Haben Sie eine wesentliche (insb technische) Änderung an einem bereits in Verkehr gebrachten oder in Betrieb genommen Hochrisiko-KI-System vorgenommen?
Frage 3: Haben Sie den Verwendungszweck eines nicht als hochriskant eingestuften und bereits in Verkehr gebrachten oder in Betrieb genommen KI-Systems so verändert, dass das KI-System jetzt als Hochrisiko-KI-System einzustufen ist?
Falls Sie eine der vorigen Fragen mit „ja“ beantwortet haben, gelten Sie aufgrund des Rollentausches nach Art 25 KI-VO wahrscheinlich (zusätzlich) als Anbieter eines KI-Systems nach der KI-Verordnung.

VI. Prüffrage: Greifen Transparenzverpflichtungen nach Art 50 KI-VO?
Transparenzverpflichtungen für Anbieter Prüfen Sie bitte die nachfolgenden Pflichten, wenn Sie identifiziert haben, dass Sie Anbieter eines KI-Systems sind.	ja	nein
Frage 1: Ist das KI-System für die direkte Interaktion mit natürlichen Personen bestimmt und wird nicht gesetzlich zur Verbrechensbekämpfung eingesetzt?
Frage 2: Erzeugt das KI-System synthetische Audio-, Bild, Video- oder Textinhalte?
Wenn Sie eine der Fragen mit „ja“ beantwortet haben, finden Sie die zu erfüllenden Pflichten in der Checkliste „Rechtliche Anforderungen nach KI-Verordnung für Anbieter“.
Transparenzverpflichtungen für Betreiber Prüfen Sie bitte die Nachfolgenden Pflichten, wenn Sie identifiziert haben, dass Sie Betreiber eines KI-Systems sind.	ja	nein
Frage 1: Wird ein KI-System zur Emotionserkennung oder biometrischen Kategorisierung betrieben?
Frage 2: Werden durch ein KI-System Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein Deepfake (KI-generierte oder manipulierte Bild-, Audio- oder Videoinhalte, die existierenden Personen, Objekten, Orten, Einrichtungen oder Ereignissen ähneln und einer Person fälschlicherweise als authentisch oder wahrheitsgemäß erscheinen würden) sind oder wird Text erzeugt/manipuliert, welcher die Öffentlichkeit über Angelegenheit von öffentlichem Interesse informiert?
Wenn Sie eine der Fragen mit „ja“ beantwortet haben, finden Sie die zu erfüllenden Pflichten in der Checkliste „Rechtliche Anforderungen nach KI-Verordnung für Betreiber“.

VII. Prüffrage: Greifen Pflichten für KI-Modelle nach Art 53 oder Art 55 KI-VO?
Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck. Prüfen Sie folgenden Punkt nur, wenn Sie Anbieter eines KI-Modells sind.	ja	nein
Frage: Liegt ein KI-Modell mit allgemeinem Verwendungszweck vor, welches mit einer großen Datenmenge in großem Maßstab trainiert wurde und eine signifikante Allgemeinheit aufweist, ein breites Spektrum unterschiedlicher Aufgaben kompetent auszuführen, unabhängig davon, wie das Modell auf den Markt gebracht wird, und in nachgelagerten Systemen oder Anwendungen integriert werden kann (siehe auch Art 3 Z 63 KI-VO)?
Falls Sie die vorige Frage mit „nein“ beantwortet haben, können Sie das Prüfschema an der Stelle beenden.
Frage 1: Verfügt ihr KI-Modell über Fähigkeiten mit hohem Wirkungsgrad (kumulierte Menge an Gleitkommaoperationen von mehr als 10²⁵), welche mit geeigneten technischen Instrumenten und Methoden, einschließlich Indikatoren und Benchmarks bewertet werden?
Frage 2: Wurde von der Kommission entschieden, dass das KI-Modell die Fähigkeit mit hohem Wirkungsgrad hat?
Falls Sie eine der obigen Fragen in diesem Abschnitt mit „ja“ beantwortet haben, handelt es sich wahrscheinlich um ein KI-Modell mit allgemeinem Verwendungszeck mit systemischem Risiko.

downloaden downloaden