DeepSeek-V4.1-Flash：推进 KV Cache 压缩极限

DeepSeek 发布论文，提出 DeepSeek-V4.1-Flash，一个多模态 MoE 模型，主干参数 552B，支持最长一百万 token 上下文。该模型采用 Causal Encoder-Decoder（CED）架构，decode 阶段每 token 激活 16B 参数，prefill 阶段仅激活 8B。通过 CSA2 跨层 KV cache 复用与 FP4 KV 缓存，其常驻 HBM 的全局 KV cache 占用降至每 token 890 字节，约为 DeepSeek-V4-Flash 的四分之一；SWA Bounded Replay 又将 SSD 或主机内存中的持久 KV cache 降至约八分之一，同时性能优于基线。

此前长上下文优化的重点多在降低计算成本，但 prefill 开销、KV cache 占用的 HBM 与 SSD 容量及数据传输带宽仍是部署成本瓶颈。该模型在 KV cache 占用降至数分之一的同时性能优于基线，意味着长上下文与 agent 类负载的成本结构可能出现实质变化。

KV cache 随上下文长度线性增长，占用 HBM 与 SSD 并消耗带宽，因此成为长上下文部署的主要成本来源。该模型以 MoE 控制每 token 激活参数量，用 CED 架构使 prefill 阶段只激活 8B 参数，再通过 CSA2 的跨层 KV cache 复用与 FP4 低精度缓存压缩全局缓存，并以 SWA Bounded Replay 进一步压缩持久缓存。

对依赖长上下文和长程 agent 的产品，每 token KV cache 占用下降可减少 HBM 与 SSD 容量需求和数据传输带宽，进而降低单请求部署成本。prefill 激活参数减半也直接压低输入密集型负载的算力开销，使百万 token 级上下文更可能以可接受成本进入产品。

• 在长文档、代码库或 agent 记忆类产品中，评估将上下文窗口扩展至百万 token 后的单请求成本与延迟变化。
• 针对输入密集型场景，对比 prefill 激活 8B 与常规配置的吞吐和成本，决定是否调整推理部署规格。
• 验证 FP4 KV 缓存与 CSA2 复用对输出质量的影响，确认压缩后是否满足业务准确率要求。

• 890 字节每 token 与八分之一持久缓存数据的具体评测条件、序列长度和硬件配置未在证据中说明。
• FP4 KV 缓存与跨层复用对长上下文任务准确率的影响幅度尚不明确。
• 性能优于基线的具体基准、指标和对比模型未在证据中给出。
• 模型权重、推理框架和部署可用时间等落地信息尚未披露。