GLOSSAR
Token
Ein Token ist eine Verarbeitungseinheit eines Sprachmodells, beispielsweise ein Wortteil, ein Wort oder ein Satzzeichen. Die Zerlegung hängt vom verwendeten Verfahren ab. Deshalb lassen sich Wörter, Zeichen und Tokens nicht mit einer für alle Sprachen und Modelle festen Zahl ineinander umrechnen.
Was eine umfangreiche Kundenakte kostet
Bei der Analyse von Gesprächsnotizen und Vertragsunterlagen beeinflusst die Tokenmenge, wie viel Material verarbeitet werden kann und welche variablen Modellkosten entstehen. Die Abrechnung kann Eingaben, Ausgaben und weitere Verarbeitungsarten unterschiedlich behandeln. Maßgeblich sind die Bedingungen des konkreten Angebots.
Für den Vertrieb ist deshalb eine Kostenangabe pro Token allein wenig anschaulich. Interessanter ist der Aufwand für einen definierten Vorgang, etwa eine geprüfte Kundenvorbereitung. Wiederholte Aufrufe, lange Antworten und nachträgliche Korrekturen können die Rechnung verändern. Umgekehrt kann gezielt ausgewähltes Material unnötigen Umfang vermeiden.
Mit repräsentativen Aufgaben kalkulieren
Eine Kostenschätzung sollte typische kurze und umfangreiche Fälle sowie erwartete Wiederholungen einbeziehen. Dabei muss die geforderte Qualität erhalten bleiben. Das Kontextfenster begrenzt die mögliche Verarbeitung; ein Tokenbudget steuert den geplanten Umfang. Beide Größen erklären technische Kapazität, belegen jedoch für sich keinen wirtschaftlichen Vorteil oder ein besseres Verhandlungsergebnis.