基于解释的运行时验证：提升ML驱动光网络的可信度

研究者提出一种基于解释的运行时验证方法，用于增强ML驱动光网络的可靠性。该方法在部署前评估模型解释的一致性和物理基础合理性，进而拦截决策中的错误。实验以光路传输质量分类为例，证实此举能有效标记显著比例的误判，同时维持高自动化水平。

过去ML预测直接控制光网络动作，错误决策会立即影响服务质量与稳定性；现在通过运行时验证决策的合理性，在控制环前拦截高风险输出，使自动化系统更安全可信。

利用可解释AI（XAI）提取模型对每个决策的显著性特征，运行时比对输出是否符合物理规律与逻辑一致性，分数低则延后或拒绝执行，以此在无需修改模型结构的前提下实现决策级可靠性检查。

该方法需在现有光网络自动化框架中嵌入验证模块，增加推理时的计算开销；但能显著降低因ML误判导致的业务中断风险，对产品可靠性测试与运维流程产生直接影响。

• 为光网络设备商开发“决策安全网关”功能模块，集成运行时验证与回退策略。
• 提供面向运营商的ML决策审计服务，对历史决策进行事后解释一致性分析。

• 运行时验证的额外延迟是否满足光网络毫秒级控制响应要求？
• 该方法对非线性或深度学习模型（如Transformer）的解释一致性评估是否依然有效？
• 拦截的“不确定”决策是否有足够的备选策略（如人工介入或回退到规则引擎）？