一篇于2026年10月14日发布在 arXiv 上的预印本提出了这样一个问题:决策模型 Jev 是否会重复人类判断中已知的错误,例如被无关数字锚定、受措辞影响,或顾及已经付出的成本。作者 Ilaria Imperatrice、Taisia Kameneva、Adam Eric Greenberg 和 Alessandro Romano 在 41,500 条回答中考察了 jev-1.13.0 版本。S57 结果乍看令人放心,细看则不尽然,这与所有基于置信度阈值构建自动化流程的人都有关。这是一篇自称为工作草稿的预印本,JEV.sk 没有对其中任何内容做过测量。S57
研究是如何进行的
作者于2026年9月30日至2026年10月5日通过 TypeSafe API 收集数据。回答被分为七组任务:认知反思、锚定、合取、框架效应、沉没成本、零风险以及定价中的社会偏差。锚定和定价任务使用 Score 问题,其余任务使用 Choice。S57 大多数实验把心理学文献中的经典题目与其改编版本并列。Choice 任务还会以颠倒的选项顺序再问一次。S57 结果与以往针对人类的实验进行比较,而不是与其他模型比较。S57
Jev 表现稳健的地方
在九道会诱导人给出快速但错误答案的认知反思题上,Jev 在每道题的全部 500 条回答中都答对了。每道题的平均置信度都高于 85%。S57 在框架效应任务中,所选选项几乎没有变化:确定选项的占比从 100% 降到 97%,而在最初的人类实验中则从 72% 降到 22%。S57 在沉没成本任务中,它在全部 2,000 条回答中都拒绝了继续投资。S57
出现裂缝的地方
所选答案只是结果的一部分。在沉没成本的原始版本中,先前的投资使继续投资的概率从 1.00% 升至 7.12%,或升至 5.92%,取决于选项顺序。在原始版本中,框架效应使冒险选项的概率平均变化了 34.31 个百分点。S57
在锚定任务中,Jev 需要在 3 到 9 个月的量表上为商店盗窃提出刑期,而题目中包含两枚骰子掷出的点数之和。尽管骰子与案件毫无关系,推算出的平均刑期仍从点数和为 2 时的 6.338 个月升至点数和为 12 时的 6.811 个月。S57 这一效应比人类小:锚点为 3 和 9 时差异为 0.302 个月,而在针对人类的研究中为 2.53 个月。S57
合取任务的结果最为突出。对于原始的、广为人知的题目,Jev 在全部 500 条回答中都答对了,但对改编版本一次也没有答对,而且两种选项顺序下的平均置信度分别为 94.28% 和 95.42%。S57 在涵盖 30 个情境、15,000 条回答的扩展检查中,它在 53.96% 的情况下选择了错误答案。作者据此认为,在知名测试上的结果可能高估了可靠性。S57
在零风险任务中,选项顺序同样有影响。在改编版本中,仅仅因为选项顺序改变,选择减害幅度更大选项的比例就从 99.6% 降到 65.6%。S57
按客户姓名定价
研究中规模最大的部分(25,000 条回答)涉及价格。Jev 需要从 28,750 到 30,895 美元之间的十个选项中,为一次购车推荐初始报价。作者轮换使用了按种族和性别划分的六个群体中的 125 个买家姓名,一次只给姓名,一次同时明确写出种族和性别。S57 只给姓名时,各群体均值在 29,529.28 至 29,539.90 美元之间;明确给出信息时,在 29,540.71 至 29,560.75 美元之间。唯一置信区间不包含零的差异出现在明确给出信息时的黑人与白人客户之间:在 2,145 美元的选项范围内相差 12.30 美元。部分差异的方向与经典人类实验相反。S57 作者把价格推算为各选项按概率加权的平均值,而不是模型直接返回的金额。S57
对斯洛伐克网店意味着什么
作者在讨论部分举了一个客服系统的例子:当所选选项的概率至少达到 80% 时自动处理请求,否则转交下一步处理。他们指出,从 83% 降到 77% 就会改变应用的行为,即使所选答案保持不变。S57 如果网店用这样的阈值来分拣留言或退换货申请,按照这些结果,state 中的一个无关细节或不同的类别顺序,就可能决定某个案例由自动化处理还是转交人工处理。因此,作者建议测试模型对无关上下文和答案顺序的敏感性。S57
JEV.sk 的建议:上线前,用两种选项顺序各发送一次同一问题,再加入一个无关细节发送一次,比较 confidence 的变化。只把与决策相关的数据放进状态中。阈值的使用见指南 confidence 与校准,问题的写法见指南 Choice、Score 与 Noul。此前一篇关于新增选项的预印本也描述了选项组合对概率的影响。
局限与版本
大多数实验只有一个原始题目和一个改编题目,因此重复调用描述的是模型在这些具体文本上的表现,而不是在整类相似任务上的表现。刑期或价格等推算值取决于固定的回答量表,作者也提醒,根据 TypeSafe 文档,Score 输出的数值校准有限。原始版本和改编版本是在不同的运行中收集的,因此作者无法排除两次运行之间服务状态发生变化的可能。S57 这些结果适用于 jev-1.13.0。此后,TypeSafe 已从2026年10月14日起通过别名 jev-preview 提供 Jev 1.14(jev-1.14.0),而 jev-latest 仍指向 jev-1.13.0。S01 该预印本尚未经过同行评审。
来源与核实程度
- S57Are AI Decision Models Biased? A Case Study of Jev ↗
arXiv · 已读取一手来源 · 2026年10月19日尝试核查
- S01Models ↗
TypeSafe AI · 已读取一手来源 · 2026年10月19日尝试核查