ApX 标志ApX 标志

趋近智

DeepSeek V4 Pro (0813)

活跃参数

1.61T

上下文长度

1.05M

模态

Reasoning

架构

Mixture of Experts (MoE)

许可证

MIT License

发布日期

13 Aug 2026

训练数据截止日期

-

API 价格 (每 1M)

输入: $1.32 · 输出: $3.96

系统要求

不同量化方法和上下文大小的显存要求

1024 个令牌

3385.15 GB VRAM

消费级

254x RTX 4090

24GB VRAM

数据中心

59x NVIDIA A100

80GB VRAM

Apple Silicon

56x Apple M3 Max

128GB VRAM

1048576 个令牌

3522.57 GB VRAM

消费级

267x RTX 4090

24GB VRAM

数据中心

62x NVIDIA A100

80GB VRAM

Apple Silicon

59x Apple M3 Max

128GB VRAM

架构图

Input TokensToken EmbeddingPosition: RoPEHidden: 7.2k · Context: 1.05M · Vocab: 129.3kx 61 layersRMSNormPre-AttentionDeepSeek Sparse Attention128Q / 1KV heads · SW: 128Head dim: 512+RMSNormPre-FFNSparse MoE FFN (6/384 experts)SwiGLUIntermediate: 3.1k+Final RMSNormOutput Logits

评估基准

排名

#29

基准分数排名

0.95

8

0.79

11

0.77

15

LiveBench 平均分

LiveBench Average

0.77

15

Agent Arena

Agent Arena
high

0.04

16

智能编程

LiveBench Agentic

0.55

20

Web 开发

WebDev Arena
high

1580

21

0.86

24

0.77

27

智能体指数

Artificial Analysis
max

0.42

32

通用文本

Text Arena
high

1460

43

max

0.36

47

max

0.69

50

排名

排名

#29

编程排名

#24

关于 DeepSeek V4 Pro (0813)

DeepSeek V4 Pro 0813 代表了 DeepSeek 旗舰级混合专家模型(MoE)的正式发布版本。它具备前沿的推理能力、复杂的软件工程能力以及扩展的上下文分析能力。

技术规格

注意力

注意力结构

DeepSeek Sparse Attention

注意力头

128

键值头

1

注意力头维度

512

位置嵌入

ROPE

RoPE Theta

10,000

滑动窗口注意力

Yes

滑动窗口大小

128

滑动窗口比例

-

线性注意力

No

线性注意力比例

-

归一化

RMS Normalization

激活函数

SwigLU

维度

隐藏维度大小

7,168

层数

61

FFN 中间层大小(稠密层)

-

多 Token 预测头数

1

分词器

词汇量大小

129,280

混合专家

专家参数总数

87.8B

专家数量

384

活跃专家

6

共享专家数

1

FFN 中间层大小(每专家)

3,072

MoE 前的稠密层数

0

关于 DeepSeek V4

DeepSeek-V4 is DeepSeek's latest generation of highly efficient Mixture-of-Experts language models, featuring a novel hybrid attention architecture combining Compressed Sparse Attention (CSA) and Heavily Compressed Attention (HCA) that dramatically improves long-context efficiency. Pre-trained on 32T+ tokens with a comprehensive post-training pipeline including domain-specific expert cultivation and unified model consolidation. Both V4-Pro and V4-Flash support 1M context length as standard, with three reasoning effort modes (Non-think, Think High, Think Max). Released open-source under MIT license on April 24, 2026.


其他 DeepSeek V4 模型
DeepSeek V4 Pro (0813):规格和 GPU 显存要求