趋近智
Qwen3.5-122B-A10B
活跃参数
122B
上下文长度
262.144K
模态
Multimodal
架构
Mixture of Experts (MoE)
许可证
Apache 2.0
发布日期
24 Feb 2026
训练数据截止日期
-
技术规格
注意力
注意力结构
Grouped-Query Attention
注意力头
32
键值头
2
注意力头维度
256
位置嵌入
ROPE
RoPE Theta
10,000,000
滑动窗口注意力
No
滑动窗口大小
-
归一化
RMS Normalization
激活函数
SwigLU
维度
隐藏维度大小
3,072
层数
48
FFN 中间层大小（稠密层）
1,024
多 Token 预测头数
1
分词器
词汇量大小
248,320
混合专家
专家参数总数
10.0B
专家数量
256
活跃专家
9
共享专家数
-
FFN 中间层大小（每专家）
1,024
MoE 前的稠密层数
-
架构图
Qwen3.5-122B-A10B
Qwen3.5-122B-A10B 是阿里云于 2026 年 2 月发布的中型多模态基座模型。该模型总参数量为 122B，通过混合专家架构（MoE，含 256 个专家）实现 10B 激活参数，在高性能与计算效率之间取得了平衡。它在 MMLU-Pro (86.1%)、GPQA Diamond (85.5%)、SWE-bench Verified (72.4%) 和 Terminal-Bench 2.0 (41.6%) 等基准测试中表现强劲。该模型具备统一的视觉-语言能力，支持 262k 原生上下文（可扩展至 1M），并在推理、代码、智能体工作流（agentic workflows）及多语言任务中表现卓越。
关于 Qwen 3.5
Qwen 3.5 是阿里云于 2026 年 2 月发布的最新一代基础模型系列。它代表了技术的重大飞跃，集成了多模态学习（统一视觉-语言基础）、高效混合架构（带有稀疏混合专家的门控增量网络）、面向百万级智能体环境的可扩展强化学习，以及涵盖 201 种语言的全球语言能力。该模型系列已开源权重，并遵循 Apache 2.0 协议。
其他 Qwen 3.5 模型
评估基准
排名
#46
| 基准 | 分数 | 排名 |
|---|---|---|
通用文本 Text Arena | 1417 | 46 |
Web 开发 WebDev Arena | 1365 | 52 |