DeepSeek-V4-Pro-Base

DeepSeek-V4-Pro-Base 是 DeepSeek-V4 系列中的 Pro Base checkpoint。DeepSeek 官方 Hugging Face 模型卡显示，DeepSeek-V4 系列包括 DeepSeek-V4-Pro 与 DeepSeek-V4-Flash 两个 MoE 规模，以及对应 Base 与后训练版本；其中 Pro Base 为 1.6T 总参数、49B 激活参数、1M 上下文、FP8 Mixed 精度。

架构与规格

DeepSeek-V4 系列使用混合注意力架构，将 Compressed Sparse Attention 与 Heavily Compressed Attention 结合，以降低百万 token 长上下文推理的计算和 KV cache 成本。模型卡显示 Base 模型在 32T+ tokens 上预训练，随后还有独立专家培养与统一蒸馏的后训练流程；Base checkpoint 本身按基础大模型收录，不设置推理模式档位。

许可与访问

DeepSeek Hugging Face 模型卡列出 DeepSeek-V4-Pro-Base 的下载入口，并声明仓库和模型权重采用 MIT License。模型权重发布在 Hugging Face 与 ModelScope；DataLearner 本条目记录 HF 权重页、技术报告和 MIT 许可，API 价格暂不填写。

评测收录

官方模型卡的 Base Model 表列出 LongBench-V2 1-shot 分数：DeepSeek-V4-Pro-Base 为 51.5。BenchLM 的 LongBench v2 leaderboard 也收录该成绩，本次按 DataLearner 的 LongBench v2 常规无工具模式写入。