Jev als Dispatcher für mehrere Agenten: weniger Token, ähnliche Genauigkeit

Vier Forschende der Shanghai Jiao Tong University haben am 15. Oktober 2026 einen Preprint mit dem Titel Jev-LiteMAS veröffentlicht. S56 Er fragt, ob in einem System mehrerer KI-Agenten ein teures generatives Modell über jeden Schritt entscheiden muss oder ob ein Entscheidungsmodell die Koordination übernehmen kann. Für alle, die Agenten zusammenbauen und für Token bezahlen, ist das Ergebnis interessant: Im Test der Autoren übernahm Jev die Weiterleitung und die erste Prüfung von Zwischenergebnissen, der Token-Verbrauch des generativen Modells sank, und die Genauigkeit blieb nah am Vergleichssystem. Es handelt sich um einen Preprint, der noch kein Peer-Review durchlaufen hat.

Wo Agenten ihre Token verbrauchen

Die Autoren haben zunächst die bestehenden Multi-Agenten-Frameworks MetaGPT, AgentNet und LAS mit dem Modell DeepSeek-V4-Flash vermessen. In sechs gemessenen Konfigurationen entfielen auf Weiterleitung und Prüfung 31,7 bis 43,5 % der Token des generativen Modells und 29,5 bis 46,1 % der Zeit. S56 Es geht also nicht um die eigentliche Arbeit, sondern um den Aufwand drumherum: wer als Nächstes an der Reihe ist und ob ein Zwischenergebnis gut genug ist.

Zugleich räumen sie ein, dass ein Entscheidungsmodell ein generatives nicht eins zu eins ersetzt. In üblichen Systemen schreibt ein Planer einen mehrstufigen Plan und Anweisungen für den nächsten Agenten, ein Prüfer erklärt, was zu korrigieren ist. Jev kann beides nicht; es liefert nur eine Auswahl aus Optionen oder ein Urteil. S56

Wie die Arbeit aufgeteilt ist

Der Entwurf teilt die Aufgaben deshalb danach auf, welche Ausgabe sie benötigen. Nach jedem Schritt wählt Jev aus den zulässigen Experten aus, wer weitermacht; erlaubt das System ein Beenden, gehört auch STOP zu den Optionen. Einen vollständigen Plan im Voraus schreibt niemand. An festgelegten Stellen bewertet Jev ein Zwischenergebnis und entscheidet nur „durchlassen“ oder „eskalieren“. Das generative Modell erledigt die eigentliche Arbeit, und eine zweite Prüfung erhält nur, was Jev eskaliert hat; dessen Hinweise gehen dann an den Experten, der den Fehler behebt. S56

Das System basiert auf dem Framework AutoGen, als generative Modelle dienten DeepSeek-V4-Flash und GPT-5. Die Autoren erprobten es an den Aufgaben MATH, MBPP+, API-Bank und IDRBench I3, jeweils mit 150 Stichproben (bei API-Bank waren es 150 Episoden). Welche Jev-Version verwendet wurde, nennt der Preprint nicht. S56

Was die Zahlen zeigten

Im Vergleich zu LAS, das die Autoren als Hauptvergleich heranziehen, sank der Token-Verbrauch des generativen Modells um 12,7 bis 54,6 %. Die Genauigkeit wich um höchstens 1,34 Prozentpunkte ab, und die Latenz war in sieben von acht Einstellungen niedriger. Die Ausnahme war die Aufgabe MATH mit GPT-5, bei der das System 30,04 s statt 25,91 s benötigte. S56

Den größten Unterschied brachte die Aufgabe IDRBench I3 mit DeepSeek: 10.233,8 statt 22.556 Token und 72,40 statt 133,52 Sekunden, bei einer Genauigkeit von 75,33 % gegenüber 76,00 %. S56 Diese Zahlen enthalten nicht die Token von Jev selbst, sie betreffen nur das generative Modell.

Aufschlussreich ist der Vergleich der Router auf derselben Aufgabe. Der Router mit Jev erreichte 75,33 %, ein Router mit generativem Modell 68,67 %, ein kleines Sprachmodell 64,00 % und feste Regeln 26,67 %. Eine Variante, die beim Weiterleiten die Ausgaben der Experten nicht sah, kam auf 57,33 %. S56 Die Entscheidung hilft also vor allem dann, wenn das Modell sieht, was der vorherige Schritt tatsächlich erzeugt hat.

Bei der Prüfung war Jev etwas weniger genau als der generative Prüfer. Bei der Aufgabe MATH erkannte es 95,33 % der fehlerhaften Zwischenergebnisse (generatives Modell 96,67 %) und eskalierte unnötig 4,00 % der korrekten (generatives Modell 1,33 %). Bei MBPP+ lagen die Werte bei 91,33 % gegenüber 92,00 % und 6,67 % gegenüber 5,33 %. S56 Jev selbst fügte mit GPT-5 1,13 bis 2,21 s pro Aufgabe hinzu, also 2,92 bis 6,85 % der Gesamtzeit, und machte 1,56 bis 2,14 % der Modellkosten aus. S56

Grenzen, die die Autoren einräumen

Die Experten sind im Voraus festgelegt, und das System erzeugt keine neuen Rollen. Die Ersparnis durch die zweistufige Prüfung schrumpft, wenn mehr Ausgaben eskaliert oder korrigiert werden müssen. Das wichtigste Zuverlässigkeitsrisiko beschreiben die Autoren offen: Einen Fehler, den Jev durchlässt, sieht das generative Modell nicht mehr. S56 Zudem beruhen die Ergebnisse auf 150 Stichproben pro Aufgabe, was bei Unterschieden um einen Prozentpunkt eine bescheidene Stichprobe ist.

Was ein slowakisches Projekt daraus mitnehmen kann

Wenn Ihr slowakischer Onlineshop eine Automatisierung mit mehreren Schritten hat, etwa bei einer Reklamation das Erkennen der Art, das Nachschlagen der Bestellung, den Antwortentwurf und die Prüfung, zeigt der Preprint eine sinnvolle Arbeitsteilung. Die Entscheidung „welcher Schritt folgt“ oder „ist dieser Entwurf in Ordnung“ ist eine Choice-Frage, während das Schreiben von Text beim generativen Modell bleibt. TypeSafe berechnet 0,042 USD pro Million Eingabe-Token, die Ausgabe ist kostenlos, und der stabile Alias jev-latest verweist auf jev-1.13.0. S01 Was das bei Ihrem Volumen kosten würde, zeigt der Kostenrechner.

Aus den Prüfzahlen ergibt sich aber auch eine Warnung. Jev ließ in diesem Test etwas mehr Fehler durch als der generative Prüfer, und diese bewertete danach niemand mehr. Bei Schritten mit finanziellen oder rechtlichen Folgen, etwa Erstattungen oder Stornierungen, gehört das letzte Wort deshalb aus unserer Sicht dem Code oder einem Menschen. Wann eskaliert werden soll, prüfen Sie an Ihren eigenen Daten; dabei hilft der Leitfaden zu Confidence und Kalibrierung. Eine ähnliche Lehre zog bereits eine frühere Untersuchung zu Jev in Agenten: Eine schnellere Entscheidung führt für sich genommen nicht automatisch zu einem besseren Ergebnis.