通过归纳逻辑编程解释强化学习智能体

该研究提出使用归纳逻辑编程（ILP）从强化学习策略中提取符号规则，并定义了激活率、特征覆盖、句法距离和语义距离等新的可解释性度量。实验显示这些度量能够揭示动作层面的学习动态，提供比全局回报更细粒度的洞察。

此前可解释强化学习主要依赖用户研究，缺乏统一评估指标；逻辑方法虽可读但无法量化可解释程度。本研究首次引入客观度量来量化逻辑规则的可解释性，并面向规划场景，使策略透明度可被系统评估。

归纳逻辑编程（ILP）从强化学习策略中提取符号化规则，再通过激活率、特征覆盖等度量计算规则与智能体行为的对齐程度、特征在决策中的角色以及策略随训练的演化。这些度量将定性解释转化为定量指标。

• 该度量方法是否已在真实工业场景或安全关键系统中验证？
• 不同RL领域（如多智能体）的扩展是否在实际产品中可行？
• 规则的可读性与度量数值之间存在怎样的用户体验平衡？