趋近智
Ling 3.0 Flash
活跃参数
124B
上下文长度
262K
模态
Text
架构
Mixture of Experts
KV 缓存速率
47 KB/tok
许可证
MIT License
发布日期
2 Aug 2026
训练数据截止日期
-
API 价格 (每 1M)
输入: $0.07 · 输出: $0.22
硬件选型
精度
上下文
工作负载显存: 248.22 GB
FP16 · 8K context
基础权重: 240.47 GB
KV 缓存: 5.25 GB
运行时与计算图: 2.50 GB
最小所需硬件
8x NVIDIA H100 80GB
248.2 / 576.0 GB usable · TP 8
确定特定工作负载的硬件需求：
在显存计算器中打开
架构图
评估基准
排名
#120
| 基准 | 分数 | 排名 |
|---|---|---|
智能体指数 | 0.19 | 80 |
0.51 | 86 | |
0.20 | 170 |
排名
排名
#120
编程排名
#76
关于 Ling 3.0 Flash
Ling 3.0 Flash 是一款开放权重的 1240 亿参数混合专家 (MoE) 模型，每个 token 激活约 51 亿参数。该模型由 InclusionAI 开发，专注于生产级智能体应用的 token 效率和低延迟执行。
技术规格
注意力
注意力结构
Multi-Layer Attention
注意力头
32
键值头
32
注意力头维度
128
位置嵌入
ROPE
RoPE Theta
6,000,000
线性注意力
Yes
线性注意力比例
83.3%
归一化
RMS Normalization
激活函数
SwigLU
维度
隐藏维度大小
2,560
层数
42
FFN 中间层大小（稠密层）
6,144
多 Token 预测头数
1
分词器
词汇量大小
157,184
混合专家
专家参数总数
5.1B
专家数量
512
活跃专家
8
共享专家数
1
FFN 中间层大小（每专家）
768
MoE 前的稠密层数
2