GLOSSAR
Erklärbarkeit
Erklärbarkeit bezeichnet die Möglichkeit, nachvollziehbare Gründe für Ergebnisse oder Verhalten eines KI-Systems bereitzustellen; eine plausibel klingende Selbsterklärung allein belegt dessen tatsächliche Arbeitsweise nicht.
Eine Empfehlung muss hinterfragbar sein
Wenn eine KI einen Kunden als wenig aussichtsreich bewertet, braucht der Vertrieb eine nachvollziehbare Grundlage. Liegt es an fehlendem Bedarf, einer falschen Produktzuordnung oder lediglich an lückenhaften Daten? Diese Ursachen verlangen unterschiedliche nächste Schritte. Eine pauschale Begründung wie „geringe Passung“ hilft dabei kaum. Erklärbarkeit wird praktisch wertvoll, wenn sie die verwendeten Informationen, entscheidenden Kriterien und wesentlichen Grenzen so sichtbar macht, dass ein fachkundiger Mensch die Empfehlung prüfen und gegebenenfalls korrigieren kann.
Plausible Erklärung und tatsächlicher Grund
Ein sprachlich überzeugender Erklärungstext ist noch kein Nachweis dafür, wie das Ergebnis zustande kam. Je nach Verfahren sind unterschiedliche Formen der Erklärung möglich. Für eine Anwendung sollte festgelegt werden, welche Art von Nachvollziehbarkeit benötigt wird und wie sie überprüft wird. Belege und dokumentierte Eingaben helfen bei der fachlichen Kontrolle. Ein Test kann relevante Informationen gezielt verändern und untersuchen, ob Empfehlung und Erklärung dazu passen. Menschliche Mitentscheidung wird dadurch wirksamer, wenn Prüfer auch Zeit und Befugnis zur Korrektur besitzen. Die Erklärung muss dabei verständlich bleiben, ohne eine Genauigkeit vorzutäuschen, die das System nicht belegen kann.