ApX 标志ApX 标志

趋近智

Alpamayo2 Edge

参数

2.65B

上下文长度

131K

模态

Text

架构

Dense

KV 缓存速率

112 KB/tok

许可证

openmdw-1.1

发布日期

12 Aug 2026

训练数据截止日期

-

API 价格 (每 1M)

仅支持自建托管

硬件与系统要求

精度

Native

上下文

工作负载显存: 4.61 GB

INT4 · 8K context

基础权重: 1.23 GB

KV 缓存: 0.88 GB

运行时与计算图: 2.50 GB

最小所需硬件

1x NVIDIA L4 24GB

4.6 / 21.6 GB usable

1x RTX 3060 12GB

4.6 / 10.8 GB usable

Apple M4 24GB

4.6 / 18.0 GB usable

确定特定工作负载的硬件需求:

在显存计算器中打开

运行时要求

权重格式

FP16

CUDA

>= 11.8

PyTorch

>= 2.1

Transformers

>= 5.17.0

微架构精度注意力算子

Blackwell, Hopper

原生 FP16

FlashAttention-3

Ada Lovelace, Ampere

原生 FP16

FlashAttention-2

架构图

Input TokensToken EmbeddingPosition: RoPEHidden: 2k · Context: 131K · Vocab: 135.2kx 28 layersRMSNormPre-AttentionGrouped-Query Attention16Q / 8KV headsHead dim: 128+RMSNormPre-FFNFeed-Forward NetworkReLU²Intermediate: 9.2k+Final RMSNormOutput Logits

评估基准

没有可用的 Alpamayo2 Edge 评估基准。

排名

排名

-

编程排名

-

关于 Alpamayo2 Edge

Alpamayo2 Edge is an efficient edge-optimized multimodal vision-language model developed by NVIDIA for embedded robotics and computer vision tasks. It integrates specialized vision backbones designed for low-power edge accelerators.

Specifications

注意力

注意力结构

Grouped-Query Attention

注意力头

16

键值头

8

注意力头维度

128

位置嵌入

ROPE

RoPE Theta

100,000,000

归一化

RMS Normalization

激活函数

ReLU2

维度

基准精度

FP16

隐藏维度大小

2,048

层数

28

FFN 中间层大小(稠密层)

9,216

分词器

词汇量大小

135,168

关于 Nemotron 3.5

NVIDIA 的 Nemotron 3.5 系列开放模型为智能体 AI 应用提供领先的效率与准确性。基于先进的混合 Mamba-2 SSM 与稀疏混合专家(MoE)架构,并结合原生多 Token 预测(MTP)与推测解码机制,Nemotron 3.5 系列专为全天候运行智能体的高频执行层量身打造。


其他 Nemotron 3.5 模型