谁为评分者打分？自改进 LLM 智能体的评估指标与技能共同进化

arXiv AI 论文提出 "Double Ratchet" 方法，让自演进 LLM 智能体系统同时进化评估指标和技能，解决实际应用中缺乏可靠指标的难题。在代码生成（MBPP+）、企业文本转 SQL（Spider 2.0-Snow）和无参考报告生成任务上，该方法保留了地面真实指标或最佳评分规则驱动的同类技能循环所取得提升的 88%–110%。研究还通过锚点约束和外部审计保障安全性，避免指标空洞化或被技能欺骗。

此前自演进系统默认已有可靠评估指标，但现实中常缺失。该研究首次提出指标本身可进化，并通过共同进化机制使系统在无预置指标时仍能接近理想性能，同时内置安全机制防止指标被游戏化，为构建可信的自改进 AI 提供了新范式。

指标进化循环通过搜索小缺陷检测器的组合，在与十项锚定参考集一致、未标注输出共识正则化、以及永不读取的留出锚点审计下生成透明可检查的度量。Double Ratchet 将此指标与技能生命周期管理共同进化，每个循环保留、修正或废弃指标；安全来自锚点约束（移除锚点使指标空洞）和外部审计（当技能游戏报告评分时，独立裁判发现、一个检测器修复，任务感知裁判在 77% 判决对中更偏好进化后输出）。

对需要持续自我改进的 AI 产品（如代码生成助手、文本转 SQL 工具、自动化报告生成），可减少对人工评估的依赖，但需额外设计锚点参考集和监管机制。成本上，进化循环需要计算资源，但可能降低人工标注频率。

• 在缺乏可靠自动验证器的场景（如内部数据标注工具）采用 Double Ratchet 架构，自动迭代评估指标与技能。
• 构建面向代码生成产品的自检模块，通过可进化指标持续发现并修复生成缺陷，减少人工代码审查。
• 在合规性要求高的文本生成产品中，利用锚点约束和审计机制防止模型利用评分漏洞，提升输出可信度。

• 该方法在多步代理任务（如复杂对话）中是否依然有效？
• 锚点参考集的构建成本与质量控制具体如何？
• 进化后的指标在跨领域迁移时是否保持透明性和可靠性？