Glossar · KI-Governance
Menschliche Aufsicht
Maßnahmen, die sicherstellen, dass Menschen den Betrieb eines KI-Systems überwachen, eingreifen und außer Kraft setzen können.
Den Begriff in der Praxis einordnen: KaitoSec KI
Menschliche Aufsicht stellt sicher, dass ein KI-System unter wirksamer menschlicher Kontrolle bleibt. Personen müssen dessen Ausgaben verstehen, entscheiden können, wann sie sich darauf verlassen, eingreifen und das System bei Bedarf stoppen können.
Die EU-KI-Verordnung verlangt wirksame menschliche Aufsicht für Hochrisikosysteme, so gestaltet, dass die verantwortliche Person sie tatsächlich ausüben kann, statt automatisierte Entscheidungen nur abzunicken.
