GLOSSAR
Kontextfenster
Das Kontextfenster begrenzt, wie viele Texteinheiten ein Sprachmodell in einer Verarbeitung berücksichtigen kann; je nach Modell teilen Eingaben und Ausgaben dieses Budget.
Eine lange Akte ist noch keine gute Vorbereitung
Bei einer Ausschreibung können Leistungsbeschreibung, Anlagen, E-Mails und interne Vorgaben gemeinsam das Kontextfenster beanspruchen. Passt die Akte hinein, bleibt dennoch offen, ob das Modell die entscheidende Ausnahme zuverlässig berücksichtigt. Passt sie nicht hinein, muss die Anwendung auswählen oder verdichten. Dabei kann gerade eine seltene, wirtschaftlich wichtige Bedingung verloren gehen. Die Fenstergröße beschreibt deshalb eine technische Kapazität. Für den Vertrieb zählt, ob entscheidungsrelevante Zusammenhänge einschließlich ihrer Einschränkungen erhalten bleiben.
Kapazität gegen Verarbeitung prüfen
Eine sinnvolle Kontextgestaltung ordnet Material nach Aufgabe, Version und Bedeutung. Zusammenfassungen sollten den Rückweg zu Originalstellen erlauben; ein späterer Nutzer muss eine Aussage überprüfen können. Für einen Test lässt sich dieselbe kritische Vertragsbedingung an unterschiedlichen Stellen einer umfangreichen Akte platzieren und mit widersprechenden Fassungen kombinieren. Gemessen wird, ob die korrekte Fassung erkannt und begründet wird. Gleichzeitig beeinflusst die verarbeitete Menge das Tokenbudget und die Antwortzeit. Die passende Lösung ist diejenige, die den konkreten Fall zuverlässig bearbeitet, ohne unnötige Dokumentmengen bei jedem Schritt erneut einzubeziehen.