GLOSSAR
Guardrails / Schutzleitplanken
Guardrails sind technische oder organisatorische Kontrollen, die unerwünschte Eingaben, Ausgaben oder Aktionen begrenzen sollen; ihre Wirksamkeit muss für konkrete Risiken überprüft werden.
Schutz muss an der möglichen Wirkung ansetzen
Eine KI könnte einen Rabattvorschlag formulieren, ohne ihn versenden zu dürfen. Diese Trennung lässt sich durch Zugriffsrechte und einen verbindlichen Freigabeschritt absichern. Ein Textfilter, der problematische Formulierungen erkennt, löst eine andere Aufgabe. Für die Architektur ist daher wichtig, welches Risiko eine Kontrolle tatsächlich begrenzt: Datenweitergabe, sachliche Fehler, unerlaubte Aktionen oder ungeeignete Inhalte. Werden diese Aufgaben vermischt, entsteht leicht ein Sicherheitsgefühl, obwohl die entscheidende Handlung weiterhin unkontrolliert ausgeführt werden kann.
Grenzfälle und zulässige Arbeit zusammen testen
Ein Regelwerk kann Bedingungen für Aktionen prüfen; menschliche Freigaben können ausgewählte Entscheidungen ergänzen. Die Kontrollen sollten außerhalb einer bloßen Bitte an das Modell wirksam sein, soweit es um verbindliche Zugriffsgrenzen geht. Tests müssen Umgehungsversuche ebenso enthalten wie legitime Aufgaben. Zu viele Fehlalarme verursachen zusätzliche Prüfung und können Nutzer zu problematischen Ausweichwegen bewegen. Der Betriebsnachweis sollte deshalb blockierte Risiken, irrtümlich blockierte Vorgänge und verbleibende Lücken erfassen. Guardrails sind ein Zusammenspiel überprüfbarer Maßnahmen. Ihre bloße Existenz beweist noch keine ausreichende Sicherheit für den konkreten Einsatz.