趋近智
参数
2.65B
上下文长度
131K
模态
Text
架构
Dense
KV 缓存速率
112 KB/tok
许可证
openmdw-1.1
发布日期
12 Aug 2026
训练数据截止日期
-
API 价格 (每 1M)
仅支持自建托管
精度
上下文
工作负载显存: 4.61 GB
INT4 · 8K context
基础权重: 1.23 GB
KV 缓存: 0.88 GB
运行时与计算图: 2.50 GB
1x NVIDIA L4 24GB
4.6 / 21.6 GB usable
1x RTX 3060 12GB
4.6 / 10.8 GB usable
Apple M4 24GB
4.6 / 18.0 GB usable
确定特定工作负载的硬件需求:
在显存计算器中打开
权重格式
FP16
CUDA
>= 11.8
PyTorch
>= 2.1
Transformers
>= 5.17.0
| 微架构 | 精度 | 注意力算子 |
|---|---|---|
Blackwell, Hopper | 原生 FP16 | FlashAttention-3 |
Ada Lovelace, Ampere | 原生 FP16 | FlashAttention-2 |
没有可用的 Alpamayo2 Edge 评估基准。
排名
-
编程排名
-
Alpamayo2 Edge is an efficient edge-optimized multimodal vision-language model developed by NVIDIA for embedded robotics and computer vision tasks. It integrates specialized vision backbones designed for low-power edge accelerators.
注意力
注意力结构
Grouped-Query Attention
注意力头
16
键值头
8
注意力头维度
128
位置嵌入
ROPE
RoPE Theta
100,000,000
归一化
RMS Normalization
激活函数
ReLU2
维度
基准精度
FP16
隐藏维度大小
2,048
层数
28
FFN 中间层大小(稠密层)
9,216
分词器
词汇量大小
135,168
NVIDIA 的 Nemotron 3.5 系列开放模型为智能体 AI 应用提供领先的效率与准确性。基于先进的混合 Mamba-2 SSM 与稀疏混合专家(MoE)架构,并结合原生多 Token 预测(MTP)与推测解码机制,Nemotron 3.5 系列专为全天候运行智能体的高频执行层量身打造。