Artificial Intelligence Act (AI Act)
Die KI-Verordnung bzw der AI Act (Artificial Intelligence Act) ist ein Gesetzesvorschlag der Europäischen Union, der darauf abzielt, die Nutzung von Künstlicher Intelligenz in der EU zu regeln und dabei ein Gleichgewicht zwischen der Förderung von Innovation und dem Schutz der Grundrechte, Sicherheit sowie ethischen Prinzipien zu schaffen. Der AI Act verfolgt einen risikobasierten Ansatz, der KI-Systeme in vier Kategorien unterteilt: unakzeptables Risiko, hohes Risiko, geringes Risiko und minimales Risiko. Besonders strenge Anforderungen gelten für hochriskante KI-Systeme, wie etwa solche, die in der Strafverfolgung, im Gesundheitswesen, bei der Verwaltung von Krediten oder in der Arbeitswelt eingesetzt werden. Diese müssen nicht nur umfassend dokumentiert und transparent gemacht werden, sondern auch einer menschlichen Aufsicht unterliegen. Anbieter solcher Systeme müssen eine Risikobewertung durchführen, Qualitätssicherungsmaßnahmen implementieren und dafür sorgen, dass die KI-Systeme den EU-Vorgaben in Bezug auf Sicherheit und Transparenz entsprechen.
Ein weiterer zentraler Bestandteil des AI Acts ist die Schulungspflicht für Entwickler und Nutzer von KI-Systemen. Diese müssen sicherstellen, dass alle relevanten Mitarbeiter in Bezug auf die ethischen und rechtlichen Implikationen der KI-Nutzung geschult werden, um das Risiko von Fehlern und Missbrauch zu minimieren. Darüber hinaus müssen die KI-Systeme regelmäßig auf Verzerrungen und Diskriminierung überprüft werden, insbesondere wenn sie in sensiblen Bereichen wie der Personalwirtschaft oder bei Entscheidungen über soziale Leistungen zum Einsatz kommen. Der AI Act schreibt auch vor, dass bestimmte KI-Systeme, wie etwa die Gesichtserkennungstechnologie in öffentlichen Räumen, nur unter strengen Auflagen und in Ausnahmefällen eingesetzt werden dürfen. Die Strafverfolgungsbehörden unterliegen ebenfalls speziellen Vorschriften, die den Einsatz von KI-Technologien zur Überwachung und Profilierung regeln.
Für weniger risikobehaftete KI-Anwendungen, wie etwa Chatbots oder Empfehlungsalgorithmen in sozialen Medien, gelten weniger strenge Anforderungen. Allerdings müssen auch diese Anwendungen transparente Nutzerinformationen und die Möglichkeit zur Beanstandung von Entscheidungen bieten. Der AI Act ist weltweit der erste umfassende Versuch, eine rechtliche Grundlage für die sichere, faire und ethische Nutzung von KI zu schaffen und setzt klare Regeln, um den Missbrauch von KI-Technologien zu verhindern.
