应对可解释AI中的选择问题

该论文指出可解释人工智能（XAI）领域虽已产生大量解释技术，但用户研究显示现有解释在实际中效果不佳。作者将问题归因于XAI的孤立性，提出'选择问题'的形式化定义：用户自然语言的不确定性难以匹配到合适的技术。论文提出一种多智能体LLM编排工具作为结构性解决方案，将用户查询转化为正确的XAI解释技术。

此前XAI研究多聚焦于开发新解释技术，而该论文首次将'用户选择合适技术'的困难形式化为'选择问题'，并借助LLM提供结构性解法。这可能改变XAI工具的设计思路，从技术导向转向用户查询导向，提升解释的实际可用性。

论文认为传统XAI界面要求用户将自己的不确定性转换为技术选择，这是困难的前提。他们提出用多智能体LLM编排工具自动完成这一转换，依据逻辑前提-结论格式，将用户查询映射到合适的解释技术，从而弥合自然语言与XAI技术之间的鸿沟。

对依赖XAI的产品而言，该方案提示可通过LLM封装解释技术，降低用户使用门槛。产品或需引入智能路由机制，自动解析用户问题并调用对应解释功能，可能增加LLM调用成本，但能提升解释可用性和用户满意度。

• 在现有XAI产品中增加LLM驱动的查询解析层，将用户自然语言问题映射到已有解释功能。
• 开发多智能体编排模块，自动选择并组合不同XAI技术以响应用户查询。
• 针对常见用户不确定性类型，预构建查询到技术选择的映射规则库，优化LLM调用成本。
• 与用户研究结合，验证LLM翻译效果，迭代改进解释推荐准确性。

• 论文是否提供了该多智能体工具的实证评估或原型实现？
• LLM翻译用户查询的准确率及失败模式尚未有数据支持。
• 该方法如何扩展到多模态或领域特定的XAI场景？
• 实际部署中，LLM调用延迟和成本是否可控？