ApX 标志ApX 标志

趋近智

Qwen 3.8 Flash

活跃参数

176B

上下文长度

1M

模态

Multimodal

辅助参数

450M

架构

Mixture of Experts

KV 缓存速率

96 KB/tok

许可证

other

发布日期

24 Aug 2026

训练数据截止日期

-

API 价格 (每 1M)

输入: $0.15 · 输出: $0.47

硬件选型

精度

上下文

工作负载显存: 342.25 GB

FP16 · 8K context

基础权重: 339.00 GB

KV 缓存: 0.75 GB

运行时与计算图: 2.50 GB

最小所需硬件

8x NVIDIA H100 80GB

342.3 / 576.0 GB usable · TP 8

确定特定工作负载的硬件需求:

在显存计算器中打开

架构图

Input TokensToken EmbeddingPosition: RoPEHidden: 2.6k · Context: 1M · Vocab: 248.3kx 48 layersRMSNormPre-AttentionDeepSeek Sparse Attention24Q / 2KV headsHead dim: 256+RMSNormPre-FFNSparse MoE FFN (10/512 experts)SwiGLUIntermediate: 640+Final RMSNormOutput Logits

评估基准

排名

#43

基准分数排名

0.87

4

智能体指数

Artificial Analysis

0.54

5

研究生级问答

GPQA

0.917

18

0.87

27

0.73

30

0.74

36

0.40

38

0.86

49

0.69

55

LiveBench 平均分

LiveBench Average

0.69

55

排名

排名

#43

编程排名

#15

关于 Qwen 3.8 Flash

Qwen 3.8 Flash 是阿里巴巴推出的一款高效多模态推理模型,专为编程、智能体工作流和文档分析中的快速推理而设计。它在保持低延迟和长上下文窗口的同时,提供了强大的视觉语言理解能力。

技术规格

注意力

注意力结构

DeepSeek Sparse Attention

注意力头

24

键值头

2

注意力头维度

256

位置嵌入

ROPE

RoPE Theta

10,000,000

线性注意力

Yes

线性注意力比例

75.0%

归一化

RMS Normalization

激活函数

SwigLU

维度

辅助参数

450M

隐藏维度大小

2,560

层数

48

多 Token 预测头数

1

分词器

词汇量大小

248,320

混合专家

专家参数总数

6.0B

专家数量

512

活跃专家

10

共享专家数

1

FFN 中间层大小(每专家)

640

MoE 前的稠密层数

0

关于 Qwen 3.8

阿里巴巴的 Qwen 3.8 系列代表了面向编程、专业工作、科学研究及长周期智能体任务的前沿混合专家(MoE)架构。该系列具备 2.4 万亿总参数(每个 Token 激活 950 亿参数),将门控 DeltaNet 线性注意力与标准门控注意力相结合,同时提供开源权重与托管旗舰级 API 服务。


其他 Qwen 3.8 模型