Betreiben

Modellplan

Die Modellberatung zeigt, welche Modelle eine Aufgabe könnten. Der Modellplan setzt es um: Tokenwacht weist jeder Aufgabe ihr Modell zu — bei Anthropic (Claude), OpenAI (GPT) oder Google (Gemini) —, prüft, ob das Konto dafür aufgeladen ist, und legt Ihnen eine Entscheidung vor, wenn es leer ist. Still umgestellt wird nie.

So arbeitet er

  1. Ihr Programm bietet die Stellschraube an. Mit jeder Steuerungsabfrage nennt es das eigene Modell und die Anbieter, die es für diese Aufgabe ausführen kann:
    POST /v1/steuerung
    {"agent": "schreiber", "laufart": "TX", "lauf": "TX-4711",
     "parameter": {"ki": "anthropic/claude-opus-5", "ki_erlaubt": "anthropic,openai,google"}}
    Die Antwort nennt unter einstellungen.ki das Modell für diesen Lauf (oder nichts — dann gilt Ihr Standard). Die Anbieter-Schlüssel hält Ihr Programm; Tokenwacht speichert keine.
  2. Tokenwacht schlägt eine Zuweisung vor, wenn ein anderes Modell alles kann, was die Aufgabe nutzt, bei einem erlaubten Anbieter mit nicht leerem Konto liegt und mindestens 15 % und 1 € in 14 Tagen spart. Gleiche Modellklasse geht vor: erst die Qualität halten, dann den Preis senken.
  3. Mit Ihrem Ja startet ein Versuch auf der Hälfte der Läufe. Tokenwacht vergleicht mit dem anderen Arm — bei Läufen, was sie bewirken, bei Texten, wie oft Sie sie verwenden und ob die erste Fassung Ihre Prüfung besteht — und nimmt es selbst zurück, wenn es schlechter wird. Besteht der Versuch, gilt das Modell für alle Läufe und bleibt überwacht.
  4. Sie können auch selbst ein Modell wählen (Cockpit › Modellplan › Mögliche Modelle) — es startet ebenso als Versuch.

Konten: „bereit“, „knapp“, „leer“, „unbestätigt“

Tokenwacht sieht kein Konto beim Anbieter, nur die Aufrufe, die über den Proxy laufen:

ZustandBedeutung
bereitDas Konto hat in den letzten 72 Stunden Aufrufe angenommen, oder Sie haben bestätigt, dass es aufgeladen ist. Ihre Bestätigung gilt bis zum nächsten abgelehnten Aufruf — lehnt der Anbieter danach wieder ab, ist das Konto wieder leer.
knappDie Guthabenwache rechnet, dass das Guthaben bald nicht mehr reicht.
leerDer Anbieter lehnt Aufrufe ab: Guthaben aufgebraucht oder Ausgabenlimit erreicht.
unbestätigtNoch kein Aufruf — Tokenwacht fragt: Ist das Konto aufgeladen? Freigeben können Sie ein Modell dort erst nach Ihrer Bestätigung.

Ist ein Konto leer: Ihre Entscheidung

Tokenwacht legt eine Entscheidung je Konto vor, mit allen Aufgaben, die darauf warten, und je Aufgabe den Modellen bei bereiten Konten — mit den Kosten je Tag und den Mehr- oder Minderkosten gegenüber heute:

  • Aufladen — mit dem Link zur Abrechnung des Anbieters. Nimmt das Konto wieder Aufrufe an, erledigt sich die Entscheidung von selbst.
  • Ersatz — die gewählten Aufgaben laufen vorübergehend auf einem anderen Modell, höchstens 14 Tage und nur bis das Konto wieder bereit ist. Wird das Konto des Ersatzmodells selbst leer, endet der Ersatz, und die Aufgabe kommt zurück in Ihre Entscheidung.
  • Ruhen lassen — die Aufgaben warten. Ohne Ihre Entscheidung ruhen sie ebenfalls; Tokenwacht stellt nie still auf ein anderes, womöglich teureres Modell um. „Ruhen“ gilt für diesen Leerstand: Tokenwacht fragt frühestens nach sieben Tagen erneut, oder wenn eine weitere Aufgabe betroffen ist.

Vorab-Freigabe: Je Aufgabe können Sie vorab festlegen, welches Ersatzmodell laufen darf und wie viel es am Tag höchstens mehr kosten darf. Ist das Konto dann leer, startet der Ersatz ohne Rückfrage — Sie bekommen eine Nachricht. Überschreiten die gemessenen Kosten den Deckel, endet der Ersatz. Ein beendeter Ersatz (Deckel, 14 Tage oder von Ihnen beendet) startet im selben Leerstand nicht von selbst wieder — dann legt Tokenwacht Ihnen die Entscheidung vor.

Ein anderes Modell selbst wählen: Läuft für die Aufgabe schon eine übernommene Zuweisung, nehmen Sie diese zuerst zurück. Der Versuch vergleicht immer mit Ihrem eigenen Standard, denn der Kontrollarm läuft bei Ihnen auf dem Standard.

Im SDK

Python und Node prüfen ki wie jede Stellschraube gegen Ihre eigenen Grenzen: Ein Modell kommt nur durch, wenn sein Anbieter in ki_erlaubt steht. Wer Ersatzmodelle grundsätzlich begrenzen will, nennt sie in Grenzen(ki_modelle=[…]) bzw. {kiModelle: […]}. Melden Sie mit jedem Ergebnis, welches Modell wirklich lief (einstellungen.ki) — daran misst der Versuch.