5.1.1 Die stetige Achtung der menschlichen Autonomie
Eines der zentralen ethischen Grundprinzipien bei der Nutzung von KI ist die Wahrung und die Achtung der menschlichen Autonomie. Das bedeutet, KI unterstützt die Menschen in ihrem Tun, sie ersetzt aber nicht das menschliche Tun. Auf den ersten Blick wirkt dieser Grundsatz als eine bloße Phrase, bestenfalls als eine Zielbestimmung. Bei genauerem Hinsehen eröffnet sich aber dessen Wichtigkeit. So kennt schon die DSGVO den Gedanken der „human oversight“, indem in Art 22 DSGVO das Recht vorgesehen ist, dass bei automatisierten Entscheidungsprozessen unter Verarbeitung personenbezogener Daten das Eingreifen einer natürlichen Person gefordert werden darf. Sinn und Zweck dieser Regelung ist, dass im Sinn des Gedankens der human oversight niemand einer automatisierten Entscheidung unterworfen sein soll, die von einem Menschen nicht überprüft wird. Der Gedanke der human oversight findet sich auch in der KI-Verordnung wieder. In deren Art 14 ist die wirksame Beaufsichtigung von Hochrisiko-KI durch natürliche Personen vorgeschrieben, wobei das Gesetz relativ detaillierte Vorgaben enthält, wie dass diese menschliche Aufsicht „angemessen und verhältnismäßig“ (Art 14 Abs 4 KI-VO) auszuüben ist. Gemäß dem zugehörigen Erwägungsgrund 73 haben die mit der menschlichen Aufsicht befassten Personen über die erforderliche Kompetenz, Ausbildung und Befugnis zur Wahrnehmung dieser Aufgabe zu verfügen.
Blickt man auf das Gesetz, so zeigt sich zweierlei: Zum einen ist das Gesetz geprägt von zahlreichen unbestimmten Begriffen und Vorgaben. So gilt es beispielsweise gem Art 14 Abs 4 lit c KI-VO, die Ergebnisse einer Hochrisiko-KI im Weg der menschlichen Aufsicht richtig zu „interpretieren“. In Abs 5 schreibt Art 14 KI-VO vor, dass keine Maßnahmen oder Entscheidungen aufgrund von KI-basierter Identifizierung von Personen getroffen werden dürfen, solange diese Identifizierung nicht von zwei natürlichen Personen unabhängig voneinander überprüft worden ist. Wie aber die „Interpretation“ eines KI-Systems im Sinn einer validen Überprüfung des KI-Ergebnisses zu erfolgen hat, oder wie das Aufsichtspersonal im Sinn einer „human oversight“ in die Lage zu versetzen ist, dass es beispielsweise die Richtigkeit KI-basierter, biometrischer Personenidentifikationen überprüfen kann, all dies lässt das Gesetz offen. Zum anderen greift das Gesetz aber auch zu kurz, denn die dargestellten, gesetzlichen Vorgaben (mitsamt ihren unklaren Begrifflichkeiten) folgen dem Ansatz, dass der Mensch die Richtigkeit des KI-generierten Ergebnisses gewährleisten können muss.
Das ethische Grundprinzip zur Achtung der menschlichen Autonomie geht jedoch darüber hinaus. Im Sinne des menschenzentrierten Ansatzes, wonach KI den Menschen unterstützen, nicht aber verdrängen soll, ist beim Einsatz der KI generell Sorge zu tragen, dass die Funktionszuweisung zwischen Mensch und KI einen sinnvollen Spielraum für menschliches Wirken belässt.
