ApX 标志ApX 标志

趋近智

DeepSeek-V4-Flash

活跃参数

284B

上下文长度

1.05M

模态

Text

架构

Mixture of Experts

KV 缓存速率

86 KB/tok

许可证

MIT

发布日期

24 Apr 2026

训练数据截止日期

-

API 价格 (每 1M)

输入: $0.30 · 输出: $1.20

硬件选型

精度

上下文

工作负载显存: 556.38 GB

FP16 · 8K context

基础权重: 553.21 GB

KV 缓存: 0.67 GB

运行时与计算图: 2.50 GB

最小所需硬件

8x NVIDIA H100 80GB

556.4 / 576.0 GB usable · TP 8

确定特定工作负载的硬件需求:

在显存计算器中打开

架构图

Input TokensToken EmbeddingPosition: AbsoluteHidden: 4.1k · Context: 1.05M · Vocab: 129.3kx 43 layersRMSNormPre-AttentionDeepSeek Sparse Attention64Q / 1KV heads · SW: 128Head dim: 512+RMSNormPre-FFNSparse MoE FFN (6/256 experts)SwishIntermediate: 2k+Final RMSNormOutput Logits

评估基准

排名

#58

基准分数排名

专业知识

MMLU Pro

0.864

7

0.843

11

0.79

13

Agent Arena

Agent Arena
high

0.02

26

0.87

31

Web 开发

WebDev Arena
high

1582

32

研究生级问答

GPQA

0.874

35

智能体指数

Artificial Analysis
max

0.41

39

0.74

39

LiveBench 平均分

LiveBench Average

0.74

39

智能编程

LiveBench Agentic

0.47

45

0.87

46

0.75

49

max

0.56

high

0.52

74

84

通用文本

Text Arena

1436

81

0.19

171

排名

排名

#58

编程排名

#52

关于 DeepSeek-V4-Flash

DeepSeek-V4-Flash 是 DeepSeek V4 系列中一款快速、高效且经济的 MoE(混合专家)模型,总参数量为 284B,每个 token 激活参数量为 13B。它采用了与 V4-Pro 相同的混合 CSA+HCA 注意力架构,并支持 1M 上下文。在给予更大思考预算的情况下,DeepSeek-V4-Flash-Max 可实现与 V4-Pro 相当的推理性能。该模型在智能体 (agentic) 和编程任务上表现强劲(SWE-Bench Verified 79.0%,Terminal-Bench 2.0 56.9%),较小的参数规模实现了更快的响应速度。支持 Non-think、Think High 和 Think Max 推理模式。可通过 API 以 deepseek-v4-flash 名义访问。该模型于 2026 年 4 月 24 日在 MIT 许可证下开源发布。

技术规格

注意力

注意力结构

DeepSeek Sparse Attention

注意力头

64

键值头

1

注意力头维度

512

位置嵌入

Absolute Position Embedding

RoPE Theta

10,000

滑动窗口注意力

Yes

滑动窗口大小

128

归一化

RMS Normalization

激活函数

Swish

维度

隐藏维度大小

4,096

层数

43

FFN 中间层大小(稠密层)

2,048

多 Token 预测头数

1

分词器

词汇量大小

129,280

混合专家

专家参数总数

13.0B

专家数量

256

活跃专家

6

共享专家数

1

FFN 中间层大小(每专家)

2,048

关于 DeepSeek V4

DeepSeek-V4 is DeepSeek's latest generation of highly efficient Mixture-of-Experts language models, featuring a novel hybrid attention architecture combining Compressed Sparse Attention (CSA) and Heavily Compressed Attention (HCA) that dramatically improves long-context efficiency. Pre-trained on 32T+ tokens with a comprehensive post-training pipeline including domain-specific expert cultivation and unified model consolidation. Both V4-Pro and V4-Flash support 1M context length as standard, with three reasoning effort modes (Non-think, Think High, Think Max). Released open-source under MIT license on April 24, 2026.


其他 DeepSeek V4 模型