上海交通大学的四位研究人员于2026年10月15日发布了一篇名为 Jev-LiteMAS 的预印本。S56 它探讨的问题是:在由多个 AI 智能体组成的系统中,是否必须由昂贵的生成模型来决定每一步,还是可以交给决策模型来负责协调。对于搭建智能体并为 token 付费的人来说,这个结果值得关注:在作者的测试中,Jev 接管了路由和中间结果的初步检查,生成模型的 token 用量下降,准确率仍接近对比系统。这是一篇尚未经过同行评审的预印本。
智能体的 token 花在哪里
作者首先用 DeepSeek-V4-Flash 模型测量了现有的多智能体框架 MetaGPT、AgentNet 和 LAS。在六种测量配置中,路由和审查占生成模型 token 的 31.7% 至 43.5%,占时间的 29.5% 至 46.1%。S56 也就是说,这部分并非实际工作本身,而是围绕工作的开销:下一步由谁来做,以及中间结果是否足够好。
作者同时承认,决策模型并不能一对一地取代生成模型。在常见系统中,规划者会写出多步计划和给下一个智能体的指令,审查者则会说明需要修正什么。Jev 两者都做不到,它只返回从选项中的选择或一个裁决。S56
工作如何分配
因此,该设计按照任务所需的输出类型来分工。每一步之后,Jev 从允许的专家中选出由谁继续;如果系统允许终止,STOP 也在选项之中。没有人事先写出完整计划。在指定位置,Jev 评估中间结果,只决定“放行”或“升级”。生成模型负责实际工作,只有被 Jev 升级的内容才会接受第二轮审查;审查意见随后交给负责修复错误的专家。S56
该系统基于 AutoGen 框架构建,生成模型使用 DeepSeek-V4-Flash 和 GPT-5。作者在 MATH、MBPP+、API-Bank 和 IDRBench I3 任务上进行了评估,每项使用 150 个样本(API-Bank 为 150 个回合)。预印本没有说明使用的是哪个 Jev 版本。S56
数据显示了什么
与作者作为主要对比对象的 LAS 相比,生成模型的 token 用量下降了 12.7% 至 54.6%。准确率差距不超过 1.34 个百分点,在八种设置中有七种延迟更低。例外是使用 GPT-5 的 MATH 任务,系统耗时 30.04 秒,而非 25.91 秒。S56
差距最大的是使用 DeepSeek 的 IDRBench I3 任务:token 为 10,233.8 而非 22,556,耗时 72.40 秒而非 133.52 秒,准确率为 75.33% 对 76.00%。S56 这些数字不包括 Jev 自身的 token,只涉及生成模型。
同一任务上不同路由器的对比颇具启发。使用 Jev 的路由器达到 75.33%,使用生成模型的路由器为 68.67%,小型语言模型为 64.00%,固定规则为 26.67%。路由时看不到专家输出的变体最终为 57.33%。S56 由此可见,当模型能看到上一步实际产出的内容时,决策的帮助最大。
在审查环节,Jev 比生成式审查者略逊一筹。在 MATH 任务上,它识别出 95.33% 的有误中间结果(生成模型为 96.67%),并不必要地升级了 4.00% 的正确结果(生成模型为 1.33%)。在 MBPP+ 上,对应数字为 91.33% 对 92.00%,以及 6.67% 对 5.33%。S56 在使用 GPT-5 时,Jev 本身每项任务增加 1.13 至 2.21 秒,即总时间的 2.92% 至 6.85%,占模型成本的 1.56% 至 2.14%。S56
作者承认的局限
专家角色是事先固定的,系统不会创建新角色。当需要升级或修复的输出增多时,两阶段审查带来的节省就会缩小。作者坦率说明了主要的可靠性风险:被 Jev 放行的错误,生成模型就再也看不到了。S56 此外,结果基于每项任务 150 个样本,对于一个百分点左右的差距而言,样本规模有限。
斯洛伐克项目可以借鉴什么
如果你的斯洛伐克网店有串联多个步骤的自动化流程,例如处理退换货申请时识别类型、查找订单、起草回复并检查,这篇预印本展示了一种合理的分工。“下一步做什么”或“这份草稿是否合格”属于 Choice 类问题,而撰写文本仍交给生成模型。TypeSafe 按每百万输入 token 0.042 美元收费,输出免费,稳定别名 jev-latest 指向 jev-1.13.0。S01 按你的用量需要多少费用,可以用 成本计算器 查看。
审查数据也带来一个提醒。在这次测试中,Jev 放过的错误比生成式审查者略多,而这些错误之后再无人审查。因此,对于涉及财务或法律后果的步骤,例如退款或取消订单,我们认为最终决定权应交给代码或人工。何时升级,请用你自己的数据验证;confidence 与校准 指南可以提供帮助。早先一项关于 智能体中的 Jev 的研究也得出了类似结论:更快的决策本身并不会自动带来更好的结果。
来源与核实程度
- S56Jev-LiteMAS: Separating Decisions from Generation in Multi-Agent Workflows ↗
arXiv (Wang, Zhou, Lou, Li) · 已读取一手来源 · 2026年10月18日尝试核查
- S01Models ↗
TypeSafe AI · 已读取一手来源 · 2026年10月18日尝试核查