GLOSSAR
Human-in-the-Loop / menschliche Mitentscheidung
Human-in-the-Loop bindet Menschen an festgelegten Punkten in einen KI-gestützten Ablauf ein, etwa zur Korrektur oder Freigabe; wirksame Mitentscheidung erfordert Informationen, Zeit und Eingriffsrechte.
Ein Freigabeklick braucht eine Entscheidungsgrundlage
Vor dem Versand eines Angebots kann eine verantwortliche Person Preis, Leistungsumfang und Zusagen prüfen. Damit diese Freigabe wirksam ist, muss sie die relevanten Änderungen und offenen Risiken erkennen können. Eine lange, ungeordnete Ausgabe unter Zeitdruck erschwert das. Wenn jede Kleinigkeit dieselbe Aufmerksamkeit verlangt, können entscheidende Abweichungen untergehen. Der Arbeitsablauf sollte deshalb klare Prüfpunkte und Zuständigkeiten vorsehen. Menschliche Beteiligung ist eine gestaltbare Funktion des Prozesses; ihre Wirkung folgt nicht allein daraus, dass irgendwo eine Bestätigungsschaltfläche existiert.
Aufmerksamkeit auf folgenreiche Entscheidungen richten
Für Routinefälle können feste Grenzen gelten, während Ausnahmen eine begründete Eskalation auslösen. Die richtige Aufteilung hängt von Aufgabenrisiko und Fachkompetenz ab. Erklärbarkeit unterstützt den Prüfer, wenn relevante Grundlagen sichtbar sind. Guardrails können Rechte und erlaubte Aktionen zusätzlich begrenzen. Im Pilot sollte untersucht werden, welche Fehler Menschen tatsächlich erkennen und wie lange die Prüfung dauert. Ebenso wichtig ist, ob sie Entscheidungen ändern oder Vorgänge stoppen können. Erst dann lässt sich beurteilen, ob der menschliche Schritt wirksame Kontrolle schafft oder vor allem zusätzliche Klickarbeit erzeugt.