GLOSSAR
Beobachtbarkeit
Beobachtbarkeit beschreibt, wie gut sich ein System anhand von Messwerten, Ereignissen und Ablaufspuren verstehen lässt. Bei KI-Anwendungen ist wichtig, welcher Schritt ein Ergebnis erzeugt hat, welche Version beteiligt war und wo Zeit oder Kosten angefallen sind.
Ein fehlerhaftes Angebot gezielt untersuchen
Wird im Angebotsentwurf eine falsche Lieferfrist genannt, reicht die Feststellung „Die KI lag falsch“ für eine Verbesserung kaum aus. Das Team muss unterscheiden können, ob eine veraltete Quelle verwendet, eine Aussage falsch verstanden oder ein geprüfter Wert bei der Übergabe verändert wurde.
Passende Messpunkte verkürzen die Suche nach der Ursache und schaffen eine Grundlage für Zuständigkeiten. Sie können auch zeigen, ob wiederholte Modellaufrufe oder langsame Schnittstellen den Aufwand treiben. Eine Orchestrierung braucht deshalb nachvollziehbare Übergaben, ohne jede vertrauliche Eingabe vollständig in Protokollen abzulegen.
Aufzeichnen, was eine konkrete Frage beantwortet
Vor der Einführung sollten Verantwortliche festlegen, welche Fehler sich mit welchen Daten untersuchen lassen müssen. Zugriffsrechte und Aufbewahrungsfristen gelten auch für diese Diagnosedaten. Der praktische Test ist ein absichtlich erzeugter Fehler: Lässt sich seine Ursache finden und beheben, ohne unnötige Kundeninformationen offenzulegen? Eine große Datenmenge allein beantwortet diese Frage nicht.