基于 LLM 的 FORM 代码生成与验证驱动微调

一篇 arXiv 论文指出，粒子物理中用于处理多圈费曼图巨大代数表达式的领域语言 FORM，此前没有 AI 辅助工具。研究显示，包括数百亿参数的前沿 LLM 在无文档的单次尝试下，FORM 任务执行通过率为零。作者用 FORM 二进制作为执行预言机构建 4633 条训练样本，并以 QLoRA 微调 Qwen3-8B，在 840 项任务上执行率与严格匹配度超过至多 756B 参数的前沿模型。

此前 LLM 对 FORM 属于零样本不可用语言，前沿模型在该领域执行通过率为零。该工作表明，用编译器或解释器作为验证预言机生成数据并微调小模型，可在极低资源语言上把能力从零提升到超过大模型，且通用推理与编码能力仅损失 2.6 个百分点以内。

机制在于把 FORM 二进制当作可判定的执行预言机：程序能否跑通、输出是否严格匹配都由工具自动判定，从而无需人工标注即可批量生成并过滤训练样本。这些样本覆盖确定性计算、开放式程序、教程代码与知识问答，再通过 QLoRA 注入小模型，使模型学到领域语法与执行约束，而非仅模仿表面文本。

对研发的直接启示是：遇到 LLM 支持薄弱的 DSL 或内部配置语言时，可复用现有编译器、测试套件或校验器作为自动标注与评测来源，降低人工数据成本。产品侧可用小模型加领域微调替代调用超大模型，以更低推理成本获得更高任务通过率，同时需监控通用能力回退。

• 为内部 DSL 或配置语言搭建以编译器为预言机的数据生成与自动评测流水线
• 在科学计算、仿真脚本等垂类场景尝试小模型微调替代前沿大模型调用
• 把执行通过率与严格输出匹配设为领域代码助手的核心验收指标
• 将验证器接入数据筛选环节，优先保留可执行且输出可验证的训练样本

• 该论文的同行评审状态与结果可复现性尚未确认
• 无文档条件下零通过率的结论是否覆盖其他版本的 LLM 与 FORM
• 训练语料与基准是否公开，第三方能否独立复现
• 验证驱动方法能否迁移到其他缺乏 AI 支持的领域语言