Eine systematische, unfaire Schieflage in den Ausgaben eines KI-Systems, die bestimmte Gruppen oder Personen benachteiligen kann.
KI-Verzerrung entsteht, wenn ein System systematisch unfaire Ergebnisse erzeugt, oft als Spiegel von Verzerrungen in den Trainingsdaten, im Entwurf oder in der Nutzung. Sie kann zu diskriminierenden Ergebnissen in Bereichen wie Einstellung, Kreditvergabe oder Gesundheitsversorgung führen.
Der Umgang mit Verzerrung umfasst repräsentative Daten, Tests über Gruppen hinweg, fortlaufende Überwachung und Dokumentation. Fairness und Nichtdiskriminierung sind zentrale Anliegen sowohl der ISO/IEC 42001 als auch der EU-KI-Verordnung.
KaitoSec