ApX 标志ApX 标志

趋近智

Nemotron 3.5 Parse

参数

630M

上下文长度

16K

模态

Text

架构

Dense

许可证

openmdw-1.1

发布日期

3 Sept 2026

训练数据截止日期

-

API 价格 (每 1M)

仅支持自建托管

系统要求

不同量化方法和上下文大小的显存要求

1024 个令牌

2.75 GB VRAM

消费级

1x RTX 4090

24GB VRAM

数据中心

1x NVIDIA A100

80GB VRAM

Apple Silicon

1x Apple M3 Max

128GB VRAM

16384 个令牌

3.06 GB VRAM

消费级

1x RTX 4090

24GB VRAM

数据中心

1x NVIDIA A100

80GB VRAM

Apple Silicon

1x Apple M3 Max

128GB VRAM

架构图

Input TokensToken EmbeddingPosition: AbsoluteHidden: 1k · Context: 16K · Vocab: 72.5kx 10 layersLayerNormPre-AttentionGrouped-Query Attention16Q / 8KV headsHead dim: 64+LayerNormPre-FFNFeed-Forward NetworkGELUIntermediate: 4.1k+Final LayerNormOutput Logits

评估基准

没有可用的 Nemotron 3.5 Parse 评估基准。

排名

排名

-

编程排名

-

关于 Nemotron 3.5 Parse

Nemotron 3.5 Parse is a specialized foundation parser developed by NVIDIA for complex document understanding and structured information extraction. It leverages advanced prefix causal attention to process dense visual and textual documents.

技术规格

注意力

注意力结构

Grouped-Query Attention

注意力头

16

键值头

8

注意力头维度

64

位置嵌入

Absolute Position Embedding

归一化

Layer Normalization

激活函数

GELU

维度

隐藏维度大小

1,024

层数

10

FFN 中间层大小(稠密层)

4,096

多 Token 预测头数

1

分词器

词汇量大小

72,512

关于 Nemotron 3.5

NVIDIA 的 Nemotron 3.5 系列开放模型为智能体 AI 应用提供领先的效率与准确性。基于先进的混合 Mamba-2 SSM 与稀疏混合专家(MoE)架构,并结合原生多 Token 预测(MTP)与推测解码机制,Nemotron 3.5 系列专为全天候运行智能体的高频执行层量身打造。


其他 Nemotron 3.5 模型