趋近智
参数
2B
上下文长度
131K
模态
Text
架构
Dense
KV 缓存速率
42 KB/tok
许可证
Apache 2.0
发布日期
6 Sept 2026
训练数据截止日期
-
API 价格 (每 1M)
仅支持自建托管
精度
上下文
工作负载显存: 3.76 GB
INT4 · 8K context
基础权重: 0.93 GB
KV 缓存: 0.33 GB
运行时与计算图: 2.50 GB
1x NVIDIA L4 24GB
3.8 / 21.6 GB usable
1x RTX 3060 12GB
3.8 / 10.8 GB usable
Apple M4 24GB
3.8 / 18.0 GB usable
确定特定工作负载的硬件需求:
在显存计算器中打开
排名
#187
| 基准 | 分数 | 排名 |
|---|---|---|
智能体指数 | 0.07 | 101 |
0.14 | 140 | |
0.13 | 237 |
排名
#187
编程排名
#143
MiniCPM5-2B 是由 OpenBMB 和面壁智能 (ModelBest) 联合开发的一款面向边缘端的紧凑型语言模型。它具备高效的推理、指令遵循和多语言文本生成能力,非常适合在端侧设备上部署。
注意力
注意力结构
Grouped-Query Attention
注意力头
16
键值头
2
注意力头维度
128
位置嵌入
ROPE
RoPE Theta
5,000,000
归一化
RMS Normalization
激活函数
SwigLU
维度
隐藏维度大小
2,048
层数
42
FFN 中间层大小(稠密层)
6,144
分词器
词汇量大小
130,560
The MiniCPM model family developed by OpenBMB.