Die fortlaufende Pflicht, das Verhalten eines KI-Systems nach der Inbetriebnahme zu verfolgen und auf Probleme im realen Einsatz zu reagieren.
Die EU-KI-Verordnung verlangt von Anbietern von Hochrisiko-KI-Systemen, ein System zur Beobachtung nach dem Inverkehrbringen einzurichten, das Daten zum Verhalten des Systems im Feld sammelt und auswertet. So lassen sich Leistungsabweichungen, neue Risiken und im Entwicklungsprozess unsichtbare Vorfälle erkennen.
Schwerwiegende Vorfälle sind den Behörden zu melden. Die Beobachtung schließt den Kreis und führt Erkenntnisse in Risikomanagement und Aktualisierungen zurück.
Passende Frameworks
KaitoSec