独立指南 · 我们不是 TypeSafe AI资料已核实 · 2026年11月7日SKENDE中文
JEV.sk
研究 · 2026年11月7日

为 Jev 提供结构化记忆:预印本发现提升小且未获证实

一篇预印本测试了在合成病例中加入结构化事实块是否有助于 Jev。准确率从90.0%升至93.3%,但差异未获证实。

三位使用 abbycare.ai 域名邮箱的作者于2026年11月3日在 arXiv 上发布了一篇预印本,研究在病例的自由文本描述之外再加入一个有序的事实块,是否对 Jev 有帮助。S82 他们在合成的患者病例上做了尝试,但这个问题具有普遍性:发送到 state 中的应当只是原始文本,还是也包括事先处理过的数据?这是一篇预印本,文中没有提到同行评审,作者本人也把结果描述为方向上积极,而不是临床验证。S82

测试是如何设计的

作者准备了来自十二个医学领域的 30 个完全合成的病例,并配有 120 个问题:56 个多项选择题、36 个是非题和 28 个五级量表评分。S82 研究没有使用真实的患者记录。S82 每个病例都以两种变体运行。在第一种变体中,Jev 只收到病例的文本描述。在第二种变体中,又加入了一个记忆块,即诊断或药物清单。其中每一项都包含规范化名称、状态(活动、既往、已缓解)、起始时间、由作者给出的 0 到 1 的确定度、原始表述、否定标记以及可选备注。S82 同一病例的所有问题在一次请求中发送,总共 60 组配对调用。S82 各类问题有何区别,可参阅指南 Choice、Score 和 Noul。

一个重要细节:记忆并不是从文本中自动提取的。作者以合成方式生成了它,并自己将其描述为上限,因为真实的提取很可能会有更多错误。S82 他们调用的是 Jev 的抢先体验接口,并且没有在结果文件中记录确切的模型修订版本。S82 因此无法得知所用的是否为 jev-latest 别名目前指向的 jev-1.14.0 版本。S01

结果:概率更好,准确率提升未获证实

准确率从 120 个回答中答对 108 个(90.0%)提高到 120 个中答对 112 个(93.3%)。S82 置信区间相互重叠:84.6% 至 95.4%,对比 88.9% 至 97.8%。加入记忆后,有五个问题从错误变为正确,另有一个问题反过来。精确 McNemar 检验得出 p = 0.219,作者也承认样本对于这样的比较来说偏小。S82

概率方面的变化更明显。多项选择题的对数损失从 0.258 降至 0.175,是非题的 Brier 分数从 0.054 降至 0.022,量表题的平均偏差从 0.521 级降至 0.469 级。S82 在量表题上,偏差不超过一级的回答比例从 85.7% 升至 92.9%。不过,作者只把按问题类型拆分的结果视为进一步研究的线索。S82

在 0.9 至 1.0 的置信度区间内,不加记忆的变体有 55 个回答,且全部正确。加入记忆的变体在同一区间有 65 个回答,正确率为 98.5%。S82 也就是说,记忆让更多回答进入了最高置信度区间。但其他区间的样本很稀疏,作者明确写道,他们并未证明形式上的校准。S82

代价体现在 token 上。每次调用的平均输入从 553.9 个 token 增至 863.9 个,增加了 310.0 个 token,即 56.0%。平均延迟几乎不变:不加记忆为 0.51 秒,加入记忆为 0.50 秒。S82

作者列出的局限

局限清单很长,应当认真对待。数据是合成的,可能无法反映真实记录中的模糊之处、错误或缺失信息。正确答案由作者准备,未经临床医生审核。测试只用了一个模型,并且只运行了一次。S82 作者还指出,模式本身就是干预的一部分,因此无法把提升单独归因于结构本身,而排除由人事先凭专业知识对数据进行规范化这一因素。S82 作为下一步,他们建议用真实提取的输出取代参考记忆,并将其与原始表单、检索到的段落和摘要进行比较。S82

斯洛伐克网店可以借鉴什么

斯洛伐克网店并不处理医疗记录,但每次向 Jev 提问时都会面临类似的选择:只发送顾客消息的文本,还是同时附上订单系统中的有序数据。JEV.sk 根据这篇预印本提出的建议是:如果要附加数据,就像测试中那样为其设定明确的状态和明确的否定,例如“投诉:已关闭”或“退货:未申请”,而不是随意复制的历史记录。不过,这篇预印本测试的是没有错误的记忆,因此对于从电子邮件中自动提取的数据,其效果需要用自己的案例来验证。S82

成本很容易量化。TypeSafe 对输入按每百万 token 收取 0.042 美元,输出免费。S01 如果像这项测试一样每次调用多出 310 个 token S82,按 JEV.sk 的换算,100,000 次调用大约贵 1.30 美元。可以把自己的数字代入 成本计算器。如果打算根据置信度决定是否由系统自行处理某个案例,请参阅指南 confidence 与校准。这项测试中置信度更高,并不能证明在您的数据上校准良好,而且这篇预印本没有研究斯洛伐克语文本。

来源与核实程度

本文依据核查日期时所列的来源撰写,并非 JEV.sk 的自有测试,也不保证服务的当前状态。