趋近智
活跃参数
397B
上下文长度
262K
模态
Multimodal
辅助参数
450M
架构
Mixture of Experts
KV 缓存速率
120 KB/tok
许可证
Apache 2.0
发布日期
24 Feb 2026
训练数据截止日期
-
API 价格 (每 1M)
输入: $0.50 · 输出: $3.60
精度
上下文
工作负载显存: 774.57 GB
FP16 · 8K context
基础权重: 771.14 GB
KV 缓存: 0.94 GB
运行时与计算图: 2.50 GB
8x NVIDIA H200 141GB
774.6 / 1015.2 GB usable · TP 8
确定数据中心硬件的需求:
升级至 Pro
排名
#52
| 基准 | 分数 | 排名 |
|---|---|---|
专业知识 | 0.878 | 4 |
StackUnseen | 0.763 | 16 |
研究生级问答 | 0.884 | 29 |
通用文本 | 1442 | 73 |
Web 开发 | 1400 | 81 |
0.48 | 91 | |
智能体指数 | auto 0.08 | 94 |
auto 0.18 标准 0.21 | 175 142 |
排名
#52
编程排名
#85
Qwen3.5-397B-A17B 是阿里云于 2026 年 2 月发布的规模最大、能力最强的多模态基座模型。该模型拥有 3970 亿参数总量,通过专家混合架构(MoE,包含 512 个专家)实现 170 亿激活参数,并在 MMLU-Pro (87.8%)、GPQA Diamond (88.4%)、SWE-bench Verified (80.0%) 和 Terminal-Bench 2.0 (54.0%) 上均达到了业内顶尖水平。它具备统一的视觉-语言处理能力,支持高达 100 万 token 的超长上下文,并在代码智能体、通用智能体、多模态推理以及涵盖 201 种语言的多语言理解方面表现卓越。
注意力
注意力结构
Grouped-Query Attention
注意力头
32
键值头
2
注意力头维度
256
位置嵌入
ROPE
RoPE Theta
10,000,000
线性注意力
Yes
线性注意力比例
75.0%
归一化
RMS Normalization
激活函数
SwigLU
维度
辅助参数
450M
隐藏维度大小
4,096
层数
60
FFN 中间层大小(稠密层)
1,024
多 Token 预测头数
1
分词器
词汇量大小
248,320
混合专家
专家参数总数
17.0B
专家数量
512
活跃专家
11
FFN 中间层大小(每专家)
1,024
Qwen 3.5 是阿里云于 2026 年 2 月发布的最新一代基础模型系列。它代表了技术的重大飞跃,集成了多模态学习(统一视觉-语言基础)、高效混合架构(带有稀疏混合专家的门控增量网络)、面向百万级智能体环境的可扩展强化学习,以及涵盖 201 种语言的全球语言能力。该模型系列已开源权重,并遵循 Apache 2.0 协议。