Neu Dokument-ID: 1267087

Redaktion FORUM Media | Praxiswissen | Fachbeitrag

7.1.3.7.4 Risiken der künstlichen Intelligenz

Datenschutz und Privatsphäre

Das Sammeln und Analysieren von Daten, die für die Personalisierung von Lernerfahrungen mittels generativer KI verwendet werden, wirft Fragen bezüglich des Schutzes persönlicher Informationen und der Überwachung auf. KI-Systeme können eine Vielzahl von Daten erfassen, darunter Leistungsdaten, Lerngewohnheiten und sogar biometrische Informationen. Ohne angemessene Sicherheitsmaßnahmen erhöht dies das Risiko von Datenschutzverletzungen. Ein Hauptproblem kann sein, dass viele Bildungseinrichtungen und auch Anbieter von Lernplattformen mit der Komplexität der Datenverarbeitung und den damit verbundenen rechtlichen Anforderungen (wie zB der DSGVO und dem EU AI Act) überfordert sind. Zudem muss darauf geachtet werden, dass besonders diese sensiblen Daten nicht für andere Zwecke missbraucht werden. Des Weiteren ist die Transparenz in Bezug auf die Verwendung und Verarbeitung der Daten erforderlich. Lernende und Erziehungsberechtigte benötigen eine umfassende Aufklärung und Information. Letztlich muss neben dem Datenschutz und der Privatsphäre auch ein ethischer und vertrauensvoller Einsatz gewährleistet werden. Insbesondere in Bildungseinrichtungen, in denen KI zur Leistungsüberwachung eingesetzt wird, muss kritisch reflektiert werden, um sicherzustellen, dass Lernende nicht das Gefühl haben, ständig überwacht und kontrolliert zu werden (siehe hier UNESCO, 2023; UNESCO, 2021).