ApX 标志ApX 标志

趋近智

Liquid D1 3B

参数

3B

上下文长度

33K

模态

Text

架构

Dense

KV 缓存速率

60 KB/tok

许可证

other

发布日期

5 Oct 2026

训练数据截止日期

-

API 价格 (每 1M)

仅支持自建托管

硬件选型

精度

上下文

工作负载显存: 4.37 GB

INT4 · 8K context

基础权重: 1.40 GB

KV 缓存: 0.47 GB

运行时与计算图: 2.50 GB

最小所需硬件

1x NVIDIA L4 24GB

4.4 / 21.6 GB usable

1x RTX 3060 12GB

4.4 / 10.8 GB usable

Apple M4 24GB

4.4 / 18.0 GB usable

确定特定工作负载的硬件需求:

在显存计算器中打开

架构图

Input TokensToken EmbeddingPosition: RoPEHidden: 2k · Context: 33K · Vocab: 128kx 30 layersRMSNormPre-AttentionGrouped-Query Attention32Q / 8KV headsHead dim: 64+RMSNormPre-FFNFeed-Forward NetworkSwiGLUIntermediate: 10.8k+Final RMSNormOutput Logits

评估基准

没有可用的 Liquid D1 3B 评估基准。

排名

排名

-

编程排名

-

关于 Liquid D1 3B

Liquid D1 3B is a compact foundation model from Liquid AI utilizing liquid neural network architectures for low-latency multimodal processing. It is engineered for on-device deployment across mobile and edge hardware.

技术规格

注意力

注意力结构

Grouped-Query Attention

注意力头

32

键值头

8

注意力头维度

64

位置嵌入

ROPE

RoPE Theta

1,000,000

线性注意力

Yes

线性注意力比例

73.3%

归一化

RMS Normalization

激活函数

SwigLU

维度

隐藏维度大小

2,048

层数

30

FFN 中间层大小(稠密层)

10,752

分词器

词汇量大小

128,000

关于 LFM2

The LFM2 model family developed by Liquid AI.


其他 LFM2 模型
Liquid D1 3B - 显存要求、模型规格与基准测试