- 类型
- 论文
- 来源
- arXiv AI
- 发布
- 2026年9月16日 14:40
- 状态
- 单一信源
发生了什么
arXiv 论文提出 PAPC,针对 AI 中介工作流中 LLM agent 代表不同主体协作时的隐私传播外部性。该机制在内存写入、共享工作区更新、agent 间消息或工具事件改变共享状态前进行拦截,结合策略、来源、拓扑与扇出、权限和内容信号,决定放行、释放策略安全抽象、隔离原始内容、阻断转换或收窄后续权限。在检索记忆与多 agent 工作流基准上,PAPC 保持确定性任务完成,并消除所测的精确原始值与外部原始值暴露。
为什么重要
以往隐私控制多聚焦最终输出,论文指出成本在中间事件就已产生:一次记忆写入或 agent 消息可能按拓扑和扇出放大下游暴露。若该结论成立,治理对象需从答案前移到信息流动事件,平台可据此获得新的控制点。
底层逻辑
PAPC 把原始披露的成本视为与内容和拓扑、扇出共同相关的量,因而在事件更新共享状态或外部通道之前拦截。平台综合策略、来源溯源、拓扑与扇出、权限和内容信号,选择放行、抽象化、隔离、阻断或收窄后续权限,使最终答案之外的中间暴露也被纳入约束。
产品与商业机会
对做 agent 平台、共享记忆或工作流编排的团队,需在状态写入与消息通道前增加策略决策层,并维护来源与权限元数据。短期增加实现与评测工作量,但可降低多主体协作中的原始数据外泄风险,并保留任务完成度。
- 在 agent 编排层加入事件级策略网关,对记忆写入、消息和工具调用统一审计与拦截。
- 为共享工作区提供原始内容隔离与策略安全抽象输出的可配置能力。
- 把来源溯源、拓扑扇出和权限元数据纳入已有数据目录或权限系统,形成可查询的传播视图。
- 针对高扇出对象提供收窄后续权限的默认策略模板,并配套回归评测。
仍待确认
- PAPC 在真实生产环境中的误拦率与延迟开销尚未被证据说明。
- 基准中的确定性任务完成是否能推广到开放式、长链路的多 agent 场景仍待确认。
- 策略安全抽象的粒度与质量由什么模型或规则产生,证据未给出细节。
- 该机制与既有隐私合规框架、数据驻留要求的映射关系尚不明确。