AI in the loop? Wie KI KI-Content überwacht

Ein Produkttext liest sich überzeugend. Aus „Lieferung innerhalb von zehn Werktagen nach schriftlicher Auftragsbestätigung“ sind beim Überarbeiten allerdings „zehn Tage Lieferzeit“ geworden. Die Zahl ist geblieben, die Bedingung verschwunden. Für einen Leser klingt das fast gleich. Für die anschließende Zusage macht es einen erheblichen Unterschied.

An solchen Stellen wird die Frage interessant, wie KI ihre eigenen Inhalte überwachen kann. Ein zweiter Prüfauftrag kann den verlorenen Zusammenhang erkennen. Damit aus diesem Hinweis eine verlässliche Arbeitsweise entsteht, braucht es einen klaren Ablauf: Welche Quelle gilt? Was darf verändert werden? Wer prüft welche Eigenschaft? Und welche Bedingungen müssen vor einer Freigabe erfüllt sein?

Verschiedene Aufgaben brauchen verschiedene Prüfschritte

Ein Sprachmodell kann einen Sachverhalt erklären, einen Entwurf formulieren und mögliche Einwände untersuchen. Diese Aufgaben verlangen unterschiedliche Aufmerksamkeit. Beim Schreiben steht häufig im Vordergrund, ob ein Text verständlich und schlüssig wird. Die kritische Prüfung fragt zusätzlich, welche Behauptung über ihre Grundlage hinausgeht, wo eine Voraussetzung fehlt oder wie eine Formulierung missverstanden werden könnte.

Der Vanellence-Ansatz ordnet diesen Rollen einen gemeinsamen Kontext zu: Ziel, Adressat, Quellenstand, relevante Bedingungen und erlaubte Verwendung. Der Entwurf und seine Prüfung beziehen sich dadurch auf denselben Auftrag. Die prüfende Rolle bekommt gezielte Kriterien und muss wesentliche Einwände mit einer Fundstelle oder nachvollziehbaren Begründung verbinden. Ein zusätzliches Modell kann dabei einen anderen Blick einbringen. Die Forschung zu LLMs als Prüfern beschreibt zugleich Bewertungsverzerrungen. Deshalb zählen konkrete Prüfbefunde stärker als die bloße Zustimmung eines Modells.

Die festen Regeln liegen zwischen den Modellrollen

Zwischen den KI-Schritten übernimmt Software die Eigenschaften, die sich eindeutig prüfen lassen. Dazu gehören erlaubte Datenräume, vollständige Pflichtfelder, gültige Quellenkennungen und die Frage, ob eine Prüfung noch zur vorliegenden Textfassung gehört. Für dieselben festgelegten Eingaben liefert eine solche deterministische Prüfung nach derselben Regel dieselbe Entscheidung.

Eine Regel kann beispielsweise verlangen, dass eine Lieferangabe ihre Einheit und den festgelegten Auslöser enthält. Das funktioniert besonders gut, wenn freigegebene Angaben als klar definierte Felder vorliegen. Bei frei formulierten Aussagen kommt die fachliche Prüfung hinzu: Trägt die Quelle die Behauptung tatsächlich? Bezieht sie sich auf das richtige Produkt und denselben Zeitraum? Ein vorhandener Quellenlink und ein gültiges Format sind dafür hilfreiche Voraussetzungen.

Ein vereinfachter Ablauf sieht so aus:

1. Auftrag und Kontext klären: Quellen, Ziel, Datenfreigabe und erlaubte Verwendung festhalten.
2. Entwurf erzeugen: Eine LLM-Rolle bereitet den Inhalt innerhalb dieses Rahmens auf.
3. Struktur und Bezüge prüfen: Feste Regeln kontrollieren Pflichtangaben, Quellenzuordnung und Textversion.
4. Fachlich gegenprüfen: Eine weitere LLM-Rolle untersucht Bedeutung, Belege und Gegenargumente.
5. Freigabe entscheiden: Die hinterlegte Policy führt die Prüfergebnisse zusammen und bestimmt den nächsten zulässigen Schritt.

Auch die Werkzeugbefugnisse bleiben an die Anwendung gebunden. Ein Textvorschlag erhält durch seine Formulierung keine zusätzlichen Zugriffsrechte. Die OWASP-Empfehlungen für LLM-Anwendungen beschreiben dafür unter anderem begrenzte Rechte und die Validierung von Ausgaben. Im Ablauf werden deshalb sowohl der Eingang als auch die tatsächliche Weitergabe kontrolliert.

Wann eine automatische Freigabe sinnvoll wird

Menschen müssen für einen geregelten Ablauf nicht jeden Routineinhalt einzeln bestätigen. Sie legen vorher fest, welche Inhalte, Quellen, Änderungen und Verwendungen der Prozess selbst bearbeiten darf. Eine automatische Freigabe ist dann an diesen Prüfvertrag gebunden: Der Auftrag liegt im erlaubten Bereich, die erforderlichen Kontrollen sind bestanden, wesentliche Einwände sind geklärt und das Ergebnis passt zur vorgesehenen Verwendung.

Nehmen wir die Lieferangabe vom Anfang. In einem klar begrenzten Anwendungsfall sind Produkt, zehn Werktage und schriftliche Auftragsbestätigung bereits freigegeben. Die KI formuliert daraus eine verständliche FAQ-Antwort. Der Ablauf prüft die zugehörigen Angaben, erhält die Bedingung und lässt die konkrete Antwort gegenlesen. Die Freigabe bezieht sich auf genau diese Fassung und den dokumentierten Quellenstand. Wird danach eine entscheidende Passage geändert, beginnt die betroffene Prüfung erneut.

„Approved Content“ bezeichnet damit einen nachvollziehbaren Freigabestatus für einen definierten Zweck. Die Qualität des Status hängt von passenden Kriterien, tragfähigen Quellen und guten Prüfungen ab. Eine neue Leistungszusage, ein widersprüchlicher Beleg oder eine folgenreiche Ausnahme führt zu gezielter Nacharbeit beziehungsweise zur zuständigen Entscheidung. So konzentriert sich menschliche Aufmerksamkeit auf die Fälle, in denen sie einen Unterschied macht.

Monitoring hält den Kontext aktuell

Mit der Veröffentlichung endet die Aufgabe nicht. Ein Monitoringauftrag legt fest, welche Quellen und Inhalte erneut betrachtet werden, welche Änderungen relevant sind und wann eine fachliche Neubewertung nötig wird. Ein verändertes Produktmerkmal kann eine andere Wirkung haben als eine korrigierte Schreibweise. Der frühere Textstand und sein Prüfbezug bleiben deshalb als Vergleich erhalten.

Für Unternehmen verbindet dieser Aufbau wiederholbare Kontrollen mit der sprachlichen und fachlichen Beweglichkeit von LLMs. Routineinhalte können zügig durch einen geregelten Prozess laufen; entscheidungsrelevante Abweichungen bekommen die nötige Aufmerksamkeit. Schnittstellen wie MCP machen freigegebene Daten und Werkzeuge für passende Anwendungen zugänglich. Die Wahl des Modellanbieters bleibt davon getrennt.

Im Enterprise-Kontext wird daraus eine konkrete Gestaltungsaufgabe: Welcher Wissensbestand soll gepflegt werden, für welche Zielgruppe und mit welchem Freigaberahmen? Wenn diese Fragen beantwortet sind, lässt sich der Ablauf an den tatsächlichen Nutzen ausrichten – etwa an konsistenten Produktinformationen, gut begründeten Fachinhalten oder einer nachvollziehbaren Vorbereitung für das nächste Kundengespräch.