DeBERTa-Sentinel：迈向透明可信的 AI 生成文本检测

arXiv 发布 DeBERTa-Sentinel，一种基于 DeBERTa-v3 的 AI 生成文本检测框架，在 GLC-AIText 数据集（含 GPT、LLaMA、Claude 样本）上达到 98.21% 验证准确率、97.53% 测试准确率、95.89% 精确率、99.33% 召回率、99.53% ROC-AUC，并维持 0.665% 假阴性率。该框架提供 token 级解释，旨在增强检测透明度。

相比 GPT-Sentinel 等现有检测器难以泛化，DeBERTa-Sentinel 在准确性和可解释性上均有提升，且提供 token 级解释，支持记者、教育者和平台审核人员审计检测结果，可能推动 AI 内容检测从黑盒走向透明可信，影响内容审核和信任体系建设。

利用 DeBERTa-v3 的解纠缠注意力机制，捕捉合成内容中的细微结构异常，并通过 token 级解释揭示与合成文本相关的语言标记（如学术措辞和正式过渡），使检测结果可审计、可验证，从而减少偏见并增强可解释性。

对内容审核、教育防作弊和平台安全类产品，可引入此模型增强检测准确性，并借助 token 级解释提升用户体验和信任度。但需评估部署成本及对长文本和不同模型输出的适应性。

• 将 DeBERTa-Sentinel 集成到内容审核工具中，提供检测结果的可解释性报告，帮助审核员快速判断并追溯。
• 面向教育机构推出学术诚信检测插件，利用高召回率（99.33%）和低假阴性率降低漏判风险。
• 开发 API 服务，输出 token 级高亮标记，供平台方定制审计与辩论流程。
• 基于模型揭示的语言标记，构建针对 AI 文本风格的辅助分析工具。

• 模型在对抗性攻击或改写攻击下的实际鲁棒性如何？证据未提及。
• DeBERTa-Sentinel 的训练数据仅覆盖 GPT、LLaMA、Claude，对其他模型（如 Gemini）的泛化性未知。
• token 级解释的可读性和实用价值是否经过用户研究验证？证据未说明。
• 模型的计算资源需求和推理延迟是否满足实时检测场景？证据未提供。