趋近智
Ling 3.0 Flash VL
活跃参数
124B
上下文长度
131K
模态
Text
架构
Mixture of Experts
KV 缓存速率
47 KB/tok
许可证
MIT License
发布日期
4 Sept 2026
训练数据截止日期
-
API 价格 (每 1M)
输入: $0.07 · 输出: $0.22
硬件选型
精度
上下文
工作负载显存: 248.96 GB
FP16 · 8K context
基础权重: 241.21 GB
KV 缓存: 5.25 GB
运行时与计算图: 2.50 GB
最小所需硬件
8x NVIDIA H100 80GB
249.0 / 576.0 GB usable · TP 8
确定特定工作负载的硬件需求：
在显存计算器中打开
架构图
评估基准
排名
#83
| 基准 | 分数 | 排名 |
|---|---|---|
智能体指数 | 0.29 | 64 |
0.57 | 72 | |
0.25 | 113 |
排名
排名
#83
编程排名
#60
关于 Ling 3.0 Flash VL
Ling 3.0 Flash VL 是一款基于混合专家（MoE）架构构建的视觉语言多模态基座模型。它针对高效、高速的视觉推理和文档理解进行了优化。
技术规格
注意力
注意力结构
Multi-Layer Attention
注意力头
32
键值头
32
注意力头维度
128
位置嵌入
ROPE
RoPE Theta
6,000,000
线性注意力
Yes
线性注意力比例
83.3%
归一化
RMS Normalization
激活函数
SwigLU
维度
隐藏维度大小
2,560
层数
42
FFN 中间层大小（稠密层）
6,144
分词器
词汇量大小
157,184
混合专家
专家参数总数
5.5B
专家数量
512
活跃专家
8
FFN 中间层大小（每专家）
768
MoE 前的稠密层数
2