OpenAI 新推理技术引发 AI 安全专家担忧

OpenAI 计划在其新模型 Astra 中采用“recurrent depth”推理技术，这种技术使模型能跳出多数推理模型依赖的序列思考模式。该消息引发 AI 安全专家的担忧。

此前主流推理模型均依赖序列化思考以提升可解释性和安全性。Astra 采用非序列推理，可能改变模型行为模式，使对齐与安全评估面临新挑战。

recurrent depth 允许模型在内部进行循环或并行处理，而非逐步推导，可能提高效率但降低可预测性，使模型行为更难被审查和约束。

对依赖推理模型做安全关键决策的产品，如自动客服或内容审核，需重新评估风险。研发团队可能需调整对齐策略，并投入更多资源于可解释性工具。

• 跟踪 OpenAI 技术文档，评估 recurrent depth 对自身推理类产品的潜在可解释性影响。
• 与安全研究机构合作，预先制定针对非序列推理的风险评估框架。
• 在内部 PoC 中测试 Astra 在复杂任务下的行为稳定性，并与现有模型对比。

• recurrent depth 的具体实现机制尚不明确，其训练和推理成本如何？
• 该技术是否会公开或仅限内部使用？
• AI 安全专家担忧的具体场景有哪些？