设计上的不一致？论大语言模型的道德自洽性

一项针对大语言模型道德推理一致性的研究发现，模型在面对措辞或框架变化但道德实质相同的情境时，会表现出显著的不一致，矛盾率最高达78%。该研究基于义务论、功利主义和美德伦理学三大哲学流派，测试了GPT、Mistral和Llama等模型。

此前人们多关注LLM的道德声明能力，但未系统检验其在不同表述下的一致性。本研究首次以结构化逻辑方法量化了这种不一致，揭示了AI在道德相关场景中的高风险不稳定，直接影响其作为决策辅助的可信度。

模型采用提示框架和情景重述，将模型输出转为逻辑命题并检测矛盾。结果发现模型不能维持内在逻辑一致性，可能源于训练数据的多样性和情境敏感性，导致在不同表述下激活不同推理路径，产生矛盾结论。

对于集成LLM的产品，道德相关功能（如内容审核、伦理咨询）可能提供冲突建议，削弱用户信任。研发需增加一致性校验机制，可能增加成本和延迟。

• 开发LLM一致性检测工具，供企业评估模型在道德场景下的可靠性。
• 设计对抗性提示数据集，用于改进模型训练和评估。
• 在道德敏感产品中增加人工审核或风险提示功能，降低风险。

• 不一致是否因特定模型架构或训练数据导致？
• 不同语种下是否呈现相似矛盾率？
• 研究是否覆盖所有主流LLM？
• 有哪些有效机制可提升道德一致性？