Neu Dokument-ID: 1195576

Sebastian Müller | Praxiswissen | Fachbeitrag

3.2 Welche besonderen Probleme mit Diskriminierung treten bei KI-Anwendungen auf?

Diskriminierung im Zusammenhang mit KI zeigt sich in der Praxis häufig in folgenden Konstellationen:

Targeting Bias

Dies beschreibt das Problem, dass KI mitunter bestimmte Gruppen bevorzugt und andere benachteiligt. Schon bei der Entwicklung von KI-Systemen können solcherart Diskriminierungen bei der späteren Verwendung der KI-Systeme grundangelegt sein. So können etwa Trainingsdaten unausgewogen sein oder die Entwickler:innen, die das KI-System erstellen und auf seine Funktionstüchtigkeit prüfen, können dabei von diskriminierenden Vorstellungen geleitet sein.