25.02.2025 | Datenschutz & IT | ID: 1194323

Pflicht zur Vermittlung von KI-Kompetenz

Wolfgang Mader

Seit Anfang Februar 2025 besteht die Pflicht zur KI-Kompetenz. Anbieter und Betreiber von KI-Systemen sind verpflichtet, alle Personen, die in ihrem Auftrag KI-Systeme betreiben oder nutzen, ausreichend zu schulen.

Künstliche Intelligenz (KI) zählt zu den Schlüsseltechnologien unserer Zeit und beeinflusst sowohl die Arbeitswelt als auch die Gesellschaft in nahezu allen Bereichen. Die EU-KI-Verordnung (AI Act) erkennt diese Entwicklung an und hat die Schulung von Mitarbeitenden und Entscheidern als essenziellen Bestandteil für den sicheren Einsatz von KI-Systemen definiert. Der Artikel 4 des AI Act fordert, dass Organisationen und Unternehmen sicherstellen, dass alle, die mit KI-Systemen arbeiten, über die notwendige KI-Kompetenz verfügen.

Warum ist KI-Kompetenz so wichtig?

Der Einsatz von KI birgt immense Potenziale, wie etwa die Automatisierung von Prozessen, die Verbesserung von Entscheidungen und die Schaffung neuer Geschäftsmodelle. Gleichzeitig besteht jedoch das Risiko von Fehlentscheidungen, Diskriminierung (Bias), Sicherheitslücken und ethischen Konflikten. Um diese Risiken zu minimieren und das volle Potenzial von KI auszuschöpfen, sind umfassende Schulungen notwendig.

Der AI Act macht deutlich, dass nur durch gezielte Weiterbildung ein sicherer und verantwortungsvoller Umgang mit KI-Systemen gewährleistet werden kann. Dies ist besonders relevant für hochriskante KI-Systeme, bei denen Fehlfunktionen oder unzureichendes Wissen erhebliche gesellschaftliche und wirtschaftliche Auswirkungen haben könnten.

Was beinhaltet die Vermittlung von KI-Kompetenz?

Die Inhalte der Schulungen sind vielfältig und umfassen rechtliche, technische und ethische Aspekte. Im Detail sollten folgende Bereiche abgedeckt werden:

1. Grundlagen von KI
   • Definition und Typen von KI (zB Generative KI, Narrow AI, General AI
   • Risikobasierende Einteilung (verboten, hochriskant, systemisch risikobehaftet)
   • Verständnis von maschinellem Lernen, neuronalen Netzen und Algorithmen
   • Typische Anwendungsfälle wie prädiktive Analysen, Betrugserkennung oder Optimierung von Ressourcen
2. Rechtliche Anforderungen
   • Einhaltung der DSGVO und des AI Act, insbesondere im Umgang mit personenbezogenen Daten
   • Schulung zu regulatorischen Vorgaben, wie zB der Meldepflicht bei Vorfällen (Artikel 73 des AI Act)
   • Vermittlung von Datenschutzprinzipien wie Zweckbindung, Datensparsamkeit und Transparenz
3. Technische Kompetenz:
   • Umgang mit KI-Plattformen, APIs und technischen Standards
   • Integration und Fein-Tuning von KI-Modellen in bestehende Systeme
   • Monitoring, Validierung und Fehlerbehebung in der Praxis
4. Ethische Aspekte
   • Minimierung von Bias und Förderung von Fairness
   • Sicherstellung der Transparenz bei Entscheidungen
   • Verantwortungsvoller Umgang mit sensiblen Daten und Berücksichtigung gesellschaftlicher Auswirkungen
5. Praxisorientierte Schulungen:
   • Szenarien für IT-Mitarbeitende, zB der sichere Betrieb und die Überwachung von KI-Systemen
   • Übungen zur Fehlerbehebung und Optimierung
   • Anleitung für Entscheider zur Bewertung und Einführung von KI-Systemen
      

Fazit: KI-Kompetenz gem AI Act

Die Verpflichtung zur Schulung gem Artikel 4 des AI Act gilt für alle Organisationen und Unternehmen, die KI-Systeme entwickeln, einsetzen oder nutzen. Ziel ist es, das Bewusstsein für Risiken und Chancen von KI zu schärfen und gleichzeitig die Einhaltung rechtlicher Vorgaben sicherzustellen. Besonders in Bereichen wie dem Gesundheitswesen, der Strafverfolgung oder der kritischen Infrastruktur ist die Vermittlung von KI-Kompetenz unerlässlich, um Fehlentscheidungen und Missbrauch vorzubeugen und Schaden für die Gesellschaft zu vermeiden.

Neuerscheinung April: Jetzt vorbestellen