自主AI代理用于进攻性安全的伦理考量

arXiv AI 2026年7月论文指出，LLM驱动的自主代理在进攻性安全中呈现三个非确定性维度：动作不可预测、影响开放、用户群体模糊。现有双用途与AI伦理框架不适用于此组合，短期内有利于攻击者，长期可能民主化防御实践。

传统渗透测试是确定性、窄范围且需专业操作者；新型自主代理的非确定性使事故归因难以进行、安全审查失效，且大幅降低了攻击技能门槛，显著改变攻防平衡。

非确定性源于LLM的非确定性策略、模型供应链不透明及动作影响不可预测。攻防成本不对称使攻击能力可工业化，即使同一技术长远可降低防御门槛，但短期加速攻击者优势。

安全产品若采用自主代理需解决决策可解释性与归因问题；用户群体扩展后需设计不同技能门槛的操作模式；监管合规风险增加，可能影响产品上市流程。

• 开发可审计的自主安全代理，记录决策链以便事故归因与安全审查。
• 提供针对非确定性代理的第三方安全评估与验证服务。
• 构建低成本防御性AI代理，利用类似逻辑降低防御技能门槛。
• 设计用户技能适配接口，区隔专家与新手操作模式，控制风险。

• 论文的实证数据来源是什么？是否基于真实攻击测试？
• 该论文是否经过同行评审？作者背景与潜在利益冲突？
• 非确定性维度在防御场景下是否同样带来负面影响？
• 现有框架无法适用，具体推荐措施有哪些？