- 类型
- 论文
- 来源
- arXiv AI
- 发布
- 2026年10月1日 08:39
- 状态
- 单一信源
发生了什么
研究团队发布 DAYJOB 基准,包含 130 个由医疗和金融从业者构建的长周期任务,单个任务估计需专业人士 13.6 至 16.6 小时完成。每个任务采用容器化 Harbor 环境,配合专家二元评分标准与智能体评审,全部标准通过才算成功。30 种模型配置中表现最好的 Claude Opus 5.5 在医疗和金融任务上的通过率约为 24%,中位配置仅 0.6% 和 2.5%。
为什么重要
此前多数智能体评测集中在短程、边界清晰的任务上,而该基准以真实专业工作为对象,任务时长以小时计,评分要求通过全部专家标准,并公开了评测框架与排行榜。这使长周期专业工作的能力差距首次有了可比较的量化口径,也暴露出智能体在前提判断和输入校验上的系统性弱点。
底层逻辑
基准把专业请求、相关文档与交付文件放进容器化环境,让智能体自行判断需求、材料与前提是否成立;专家用多条二元标准逐项审核交付物,只有全部满足才算通过。这种全通过门槛与长任务时长共同放大了单点错误,因此案例中智能体接受与记录矛盾的前提、并把错误输入贯穿后续分析,会直接导致整项任务失败。
产品与商业机会
对做智能体产品的团队,该基准提示不能只看单步准确率,需要把输入校验、前提质疑和中间结果复核纳入评测与产品流程。在医疗、金融等高门槛场景,交付前的人工复核环节仍需保留;评测成本会因长任务和逐项评分而上升,产品需要更细的过程可观测性来定位失败原因。
- 在智能体工作流中加入前提校验步骤,先核对请求与已有记录是否矛盾,再进入分析。
- 面向医疗、金融客户提供基于 DAYJOB 公开任务的交付前自测服务,输出逐条标准的通过情况。
- 构建过程日志与中间结论的可视化面板,帮助团队定位长任务中错误输入的传播路径。
- 针对评分标准全部通过的要求,设计分阶段人工确认节点,降低整项任务失败的回滚成本。
仍待确认
- 该基准的任务来源和评分标准由哪些专业人士制定,是否存在机构或利益关联尚未说明。
- Claude Opus 5.5 等配置的 24% 通过率是否可复现,独立第三方验证结果尚不明确。
- 金融领域 80 个任务中仅公开 50 个,未公开部分的筛选依据不明。
- 基准能否反映真实工作场景中团队协作与多轮反馈的影响,证据不足以判断。