Betreiben

Modellberatung

Nicht jede Aufgabe braucht das teuerste Modell — und nicht jede kann zu einem anderen Anbieter wechseln. Tokenwacht zeigt je Aufgabe, welche Modelle sie könnten, was es kosten würde und was dagegen spricht. Umgestellt wird hier nichts.

Woher Tokenwacht das weiß

  • Was eine Aufgabe braucht erkennt der Proxy an jeder Anfrage — nur an Feldnamen und Typen, nie am Text: Web-Suche, Web-Abruf, MCP-Anbindung, eigene Werkzeuge, Code-Ausführung, Dokumente, Bilder, Zwischenspeicher, Denken, strukturierte Ausgabe. Einen Wechsel zu einem anderen Anbieter schlägt Tokenwacht erst vor, wenn mindestens drei Läufe einer Aufgabe so gemessen sind; ältere Läufe ohne Messung zählen dann nicht mehr dagegen, und der Vorschlag nennt, auf wie vielen Läufen er beruht.
  • Was ein Modell kann steht im Modellkatalog, mit Preisen, Kontextgröße und Lebenszyklus (aktuell, Vorschau, alt) laut Anbieter — heute für Anthropic (Claude), Google (Gemini) und OpenAI (GPT).
  • Was eine Aufgabe kostet rechnet Tokenwacht aus der gemessenen Token-Mischung der letzten 14 Tage (Eingabe, Ausgabe, Denken, Zwischenspeicher, Suchen) mit den Listenpreisen jedes Modells.

Was Sie sehen

BereichBedeutung
MöglichEin günstigeres Modell kann alles, was die Aufgabe nutzt, und Sie haben ein Konto bei diesem Anbieter. Beim selben Anbieter geht der Wechsel über die Projektleitung (Versuch mit Kontrollarm); bei einem anderen Anbieter braucht er Ihre eigene Anbindung.
Mit weiterem KontoEin Modell eines Anbieters, den Sie noch nicht angebunden haben, wäre geeignet und günstiger.
Kommt nicht in FrageMit Grund: fehlende Fähigkeit (z. B. keine MCP-Anbindung) oder zu kleines Kontextfenster.

Hinweise am Vorschlag sagen, was zu beachten ist: kleinere Modellklasse, Vorschau-Modell, höhere Preise für sehr lange Aufrufe, befristeter Einführungspreis, kundensichtbares Ergebnis.

Konten und Kontingente

Unter Cockpit › Modellberatung tragen Sie ein, bei welchen Anbietern Sie ein Konto haben und wie Sie dort zahlen: Guthaben (vorab aufgeladen) oder Monatsbudget. Tokenwacht rechnet daraus den Rest und wie lange er beim aktuellen Verbrauch reicht. Schlüssel tragen Sie hier nicht ein — die bleiben in Ihrer eigenen Umgebung; Tokenwacht speichert keine Anbieter-Schlüssel.

Was eine Aufgabe sicher braucht

Manches lässt sich nicht messen. Ob ein Ergebnis kundensichtbar ist, setzen Sie je Aufgabe im Cockpit; ein Wechsel ist dann nur mit Ihrer Freigabe möglich. Ihr Programm kann es auch mit jeder Steuerungsabfrage melden:

POST /v1/steuerung
{"agent": "schreiber", "laufart": "TEXT", …, "profil": {"kundensichtbar": true, "braucht": ["websuche"]}}

Im SDK: wacht.steuerung(standard, profil={"kundensichtbar": True}). Die Angabe im Cockpit geht vor.

Grenzen der Schätzung

Anbieter zählen Token verschieden (bei Claude ab 4.7 rund 30 % mehr Token für denselben Text), Zwischenspeicher wirken unterschiedlich, und Suchen werden je Anbieter anders berechnet. Die Beträge sind Größenordnungen. Ob ein anderes Modell dieselbe Qualität liefert, belegt nur ein Versuch mit Kontrollarm — dafür ist die Projektleitung da.