- 类型
- 新闻
- 来源
- The Decoder AI News
- 发布
- 2026年10月20日 18:56
- 状态
- 单一信源
01
发生了什么
Deepseek 将其最快、最便宜模型 V4.1-Flash 所使用的推理框架 DeepInfer 开源。该框架基于 vLLM 构建,据称在运行 AI 模型时可降低算力成本与能耗。报道同时指出,此次开源会进一步加大 OpenAI、Anthropic 等西方厂商面临的价格压力。
02
为什么重要
此前 Deepseek 的低价模型能力主要封装在自有服务中,外部难以复用其推理侧的成本优化。此次直接把支撑最快、最便宜模型的推理框架开源,意味着成本效率手段从内部资产变为可被外部采用的公共工具,价格竞争的传导路径也随之变化。
03
底层逻辑
该框架基于 vLLM 构建,属于推理服务层的工程优化,通过提升模型运行效率来压低单位算力消耗与能耗。成本下降并非来自模型能力变化,而是来自部署与调度环节的效率改进,因此可被同类模型或服务复用。
04
产品与商业机会
对自建推理服务的团队而言,可直接评估采用 DeepInfer 替代或补充现有 vLLM 部署,以降低单位调用成本与能耗。对产品侧,推理成本下降会改变定价与免费额度的可行空间;研发侧需关注框架与现有模型、硬件的兼容性与迁移成本。
- 在测试环境中用 DeepInfer 部署现有开源模型,对比 vLLM 基线在延迟、吞吐与单位成本上的差异,形成可复用的评估结论。
- 针对成本敏感的批量推理场景(如内容生成、分类标注),测算采用该框架后的单次调用成本,作为重新定价或扩大免费额度的依据。
- 将推理成本下降空间纳入产品套餐设计,尝试推出更低价的轻量档位或更高调用配额。
- 梳理该框架的部署依赖与硬件要求,评估是否值得封装为内部推理服务模板以降低后续模型接入成本。
05
仍待确认
- DeepInfer 的具体开源许可证与商用限制是什么?
- 相比原生 vLLM,DeepInfer 在哪些环节做了改动,性能与成本数据是否有第三方复现?
- 该框架是否只适配 Deepseek 自家模型,对第三方模型的支持程度如何?
- 所谓对西方厂商的价格压力,是否有可量化的定价或市场份额证据支撑?
原文与媒体展开查看
