Das Maß, in dem die Begründung hinter den Ausgaben eines KI-Systems verstanden und Menschen erklärt werden kann.
Erklärbarkeit ist die Fähigkeit, in menschlichen Worten zu beschreiben, warum ein KI-System eine bestimmte Ausgabe erzeugt hat. Sie fördert Vertrauen, Rechenschaft und die Möglichkeit, Entscheidungen anzufechten oder zu korrigieren, besonders für davon betroffene Personen.
Viele leistungsstarke Modelle sind undurchsichtig, weshalb Erklärbarkeit oft auf unterstützende Verfahren und Dokumentation angewiesen ist. Sie ist eng mit Transparenzanforderungen in der KI-Governance und der EU-KI-Verordnung verknüpft.
KaitoSec