向量搜索作为最近邻匹配：基于RAG的因果推断策略学习

该论文提出了一步法和两步法两种基于检索增强生成（RAG）的策略学习方法，将向量搜索形式化为因果推断中的最近邻匹配。两步法通过向量检索获取与各动作相关的邻近证据，利用生成器估计条件期望结果，并基于插件规则选择最优动作。论文从理论上分解了策略遗憾，为最近邻估计器和变压器提供了预测误差保证。

此研究首次将向量搜索与因果推断中的最近邻匹配建立形式化联系，为RAG在策略学习中的应用提供了理论框架。它超越了传统的信息检索用途，可能推动更可解释的决策系统发展，并为向量检索在因果推理中的使用奠定了基础。

两步法中，向量搜索在嵌入空间检索每个候选动作的邻近证据；生成器基于这些证据估计条件期望结果或对比值；最后通过插件规则选择期望结果最优的动作。该方法将动作选择遗憾分解为候选生成遗憾和候选内选择遗憾，并利用最近邻估计器的预测误差界进行控制。

• 该方法在大规模实际数据集上的性能如何？
• 向量搜索所需的嵌入空间应如何构建以保证因果推断的有效性？
• 一步法中的中间计算不可观测，如何评估其策略性能？
• 理论中的预测误差保证在哪些实际条件下成立？