与大型语言模型交互会暂时将人类价值优先级推向个人关注

一项预注册研究让200名美国成年人分别与ChatGPT、Claude或Gemini交互，充当思考伙伴，或阅读固定的AI生成考量内容。提示词只要求模型支持推理、不推荐决定，也未指定任何价值。参与者为面临真实困境的人提供建议，并在交互前、交互后及再完成一个任务后填写平行的PVQ-RR量表。结果显示，各LLM条件都相对对照组暂时把价值优先级推向个人关注，效应量d为0.37至0.51，主要通过自我增强上升实现；参与者的建议仍保留交流中的词语与含义。

此前较少证据说明，一次不针对价值、也不试图说服的简短LLM交互，是否会改变用户判断时激活的价值取向。该研究给出预注册实验证据，提示影响发生在价值方向未明显收敛、建议内容未被检测到改变的情况下，因此价值偏移可能不易被用户察觉。

机制上，LLM在对话中作为思考伙伴参与推理，可能通过提升自我增强相关表达，使个人关注在判断过程中更容易被激活。由于提示词未指定价值且未要求推荐决定，这种偏移更可能与交互过程本身相关，而非模型明确的价值导向或说服策略；研究同时未发现价值方向或建议内容出现可检测的收敛。

产品或研发在把LLM用于决策辅助、价值观敏感场景或建议生成时，需要把交互前后的用户价值取向纳入评估，而不只检查输出内容是否正确或中立。可用前后测PVQ-RR或类似量表验证不同模型、提示词和交互轮次是否造成偏移，并在涉及个人、组织或伦理判断的流程中加入提醒、复核或多视角提示。

• 在决策辅助类产品中加入交互前后价值取向自评，并向用户展示变化提示。
• 为LLM思考伙伴模式设计多视角或对立价值提示，降低单次交互造成的个人关注偏移。
• 面向企业客户提供模型选型与提示词测试服务，把价值偏移作为评估指标之一。
• 在建议生成流程中加入人工复核节点，用于识别可能被交互改变的价值优先级。

• 这种价值偏移能持续多久，是否会在更长时间或多次交互后累积？
• 不同模型、语言、文化背景和任务类型下，偏移方向和幅度是否一致？
• 参与者建议保留交流词语和含义，是否会在真实决策场景中转化为行为变化？
• 提示词明确要求中立或不推荐决定时，是否仍会出现同等程度的价值偏移？