Glossar · KI-Governance
Hochrisiko-KI-System
Nach der EU-KI-Verordnung ein KI-System, dessen Nutzung ein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte birgt und das strengen Anforderungen unterliegt.
Den Begriff in der Praxis einordnen: KaitoSec KI
Die EU-KI-Verordnung stuft bestimmte KI-Anwendungen als hochriskant ein, etwa Systeme in kritischer Infrastruktur, bei Beschäftigungsentscheidungen, beim Zugang zu wesentlichen Diensten oder in der Strafverfolgung. Diese Systeme unterliegen strengen Pflichten vor und nach dem Inverkehrbringen.
Zu den Anforderungen zählen Risikomanagement, hochwertige Daten, technische Dokumentation, Protokollierung, Transparenz, menschliche Aufsicht und Konformitätsbewertung. Der größte Teil der Compliance-Last der Verordnung entfällt auf diese Kategorie.
