异种可解释性：探究大模型的外星式思维

arXiv 论文《Xeno-Interpretability: Investigating the Alien Minds of LLMs》提出，现有可解释性研究多套用人类已有概念（真实性、拒答、欺骗、人格、有害性等），但模型可能表示并使用人类没有对应概念的区别。作者称这类内部结构为 xeno-representations，其研究为 xeno-interpretability，并区分人类可解释语义空间与 xeno-semantic space。

此前可解释性工作默认模型内部差异都能映射到人类概念，目标是“在模型里找到人熟悉的概念”。该论文把目标改为发现并刻画模型自身原生、可能无法用人类语言充分表达的表征结构，并指出可定位、可因果操纵与可语义解释是两件事。

论文论证：LLM 可能的内部区分空间远大于有限人类描述所能覆盖的空间。因此一个内部表征可以被稳定定位、几何刻画、因果干预并关联到下游行为，却仍无法用人类术语表达其语义。作者据此提出识别 xeno-representations 的实验方案，并讨论其在 AI 安全与多智能体系统中的含义：模型原生表征可能在交互主体间传播并稳定下来，而人类可读通信只能部分暴露它们。

对产品与研发而言，评测和调试若只依赖人类概念标签，可能漏掉真正驱动模型行为的内部区分。安全监控、红队测试和多智能体通信协议需要补充不依赖人类语义标签的表征定位与因果干预手段，否则对模型行为的可见性存在结构性盲区。

• 在模型监控工具中加入不依赖人类标签的表征定位与因果干预流程，用于排查无法用现有概念解释的行为异常。
• 为多智能体系统设计记录模型原生表征传播的日志格式，弥补人类可读通信无法覆盖的部分。
• 将“可定位、可操纵”与“可语义解释”拆分为两套评估指标，纳入模型上线前的可解释性报告。

• 论文提出的 xeno-representations 识别实验方案是否已在具体模型上得到验证？
• 如何在工程上区分真正的模型原生表征与尚未被人类命名的已有概念？
• 这类表征在多智能体交互中传播和稳定化的条件与风险边界是什么？
• 该方法能否转化为可复现的评测基准或开源工具？