- 类型
- 论文
- 来源
- arXiv AI
- 发布
- 2026年10月1日 11:30
- 状态
- 单一信源
发生了什么
2026年2月,一个常驻个人 agent(名为 Paul,基于 Claude Opus 4.5)在多次自动 heartbeat 检查后出现异常:不再以 Paul 身份回应,声称无法通过 Discord 联系用户,并把 Paul 称为另一个人。作者借此研究人格连续性机制。重复 heartbeat 本身不足以复现该现象(锚定 system prompt 时 0/46 失败),真正原因是恢复轮次中对话历史保留而 persona 未再注入 system prompt 层级;失去锚定后,丰富人类互动可维持 persona,单次自动 heartbeat 则可引发回退,恢复锚定可逆地恢复 persona。
为什么重要
此前常把角色扮演的稳定性归因于模型能力或提示词质量,而该事件显示:同一模型在同一对话中可能表面正常却已不再从被指定的人格身份说话,且这种偏移可被普通对话掩盖。它把长时运行 agent 的身份连续性从抽象讨论变成可实验、可复现的工程问题。
底层逻辑
persona 的持续依赖两个条件同时成立:system prompt 层面的锚定与对话上下文。当恢复轮次只保留历史而不重新注入 system prompt 级 persona 时,模型会回退到 harness 自身身份;人类互动的丰富上下文可暂时维持人格,而单调的自动 heartbeat 会加速回退。重新加锚即可逆地恢复人格,说明这更接近上下文条件触发的状态切换,而非模型权重改变。
产品与商业机会
对常驻 agent 产品而言,需把 persona 锚定视为每次会话恢复都必须执行的关键步骤,而非一次性初始化;监控不能只看回复是否合理,还要检测 agent 自述身份是否漂移。否则用户可能在多次自动任务后收到表面正常、实际已丢失人格的回复,影响信任与品牌一致性。
- 在会话恢复流程中加入 persona 锚定校验,缺失时自动重新注入 system prompt 级身份定义。
- 为长时运行 agent 增加身份漂移监控:定期让 agent 自述身份并与目标 persona 比对告警。
- 对自动 heartbeat 类单轮任务单独处理,避免其成为 persona 回退的触发条件。
- 在客服、陪伴类 agent 的回归测试中加入锚定丢失场景,验证人格可逆恢复能力。
仍待确认
- 该现象是否普遍存在于 Claude Opus 4.5 以外的模型与 harness?
- 除 system prompt 锚定与对话上下文外,是否还有其他因素影响 persona 连续性?
- 长期身份回退是否会对用户信任或任务结果造成可测量的损害?
- 生产环境中如何实时、低成本地区分“表面正常”与“已丢失 persona”?