Glossar · KI-Governance
KI-Risiko
Die für KI-Systeme spezifischen Risiken, darunter Verzerrung, mangelnde Nachvollziehbarkeit, unsichere Ergebnisse und der Verlust menschlicher Kontrolle.
KI-Risiko umfasst die Schäden, die bei Entwicklung oder Nutzung von KI entstehen können, über das gewöhnliche IT-Risiko hinaus. Dazu zählen verzerrte oder diskriminierende Ergebnisse, fehlende Transparenz, unzuverlässige oder unsichere Ausgaben, Auswirkungen auf den Datenschutz und das Aushöhlen wirksamer menschlicher Aufsicht.
Ein AIMS nach ISO/IEC 42001 steuert diese Risiken über den KI-Lebenszyklus, und die EU-KI-Verordnung knüpft Pflichten an das Risikoniveau eines Systems.