从序列到结构：面向 LLM 智能体的关系不确定性传播

新研究提出 RUPA，一种面向 LLM 智能体的轨迹级不确定性量化框架。RUPA 将执行历史建模为有向图，节点为推理状态、工具交互和环境反馈，边为时间与语义依赖，并在图上传播不确定性以捕捉风险累积。在 τ-2、Terminal-Bench-2 和 GAIA 基准上，使用 6 种开源 LLM 评估，结果显示 RUPA 在不确定性估计、早期故障检测和引导执行方面优于现有方法。

现有不确定性量化方法多依赖 token 概率或单步置信度等局部信号，无法捕捉跨步骤的错误累积。RUPA 通过图结构传播不确定性，首次显式建模执行轨迹中的长程依赖，提升了复杂交互环境下智能体故障的早期识别能力，为 LLM 智能体的可靠部署提供了新思路。

RUPA 将智能体执行历史转化为有向轨迹图，节点表示推理状态、工具交互和环境反馈，边表示时间与语义依赖关系。通过在图结构上进行不确定性传播，模拟执行风险在步骤间的累积与转移，并结合轨迹级行为特征与目标对齐信息得到整体置信度。这种结构化建模突破了序列化局部判断的局限。

对依赖 LLM 智能体处理多步任务的系统（如自主代理、工具调用平台），RUPA 可提升故障检测的及时性，减少因错误累积导致的最终失败，从而降低运维成本并提高任务成功率，尤其适用于复杂交互环境与多步骤决策场景。

• 在现有 LLM 代理平台中集成 RUPA 框架，为多步任务提供轨迹级风险提示与提前终止机制。
• 基于 RUPA 的中间状态不确定性，开发可视化诊断工具，帮助开发者定位推理或工具调用中的异常步骤。
• 将 RUPA 与不确定性引导的规划策略结合，使代理在低置信度时主动请求人工确认或切换策略。

• RUPA 在图构建和不确定性传播上的计算开销是否会影响实时应用性能？
• RUPA 在超长轨迹或大规模多代理场景下的表现尚未在证据中明确。
• 除了论文中提到的六个开源 LLM，RUPA 在闭源大模型上的效果未经验证。