趋近智
参数
3B
上下文长度
33K
模态
Text
架构
Dense
KV 缓存速率
60 KB/tok
许可证
other
发布日期
5 Oct 2026
训练数据截止日期
-
API 价格 (每 1M)
仅支持自建托管
精度
上下文
工作负载显存: 4.37 GB
INT4 · 8K context
基础权重: 1.40 GB
KV 缓存: 0.47 GB
运行时与计算图: 2.50 GB
1x NVIDIA L4 24GB
4.4 / 21.6 GB usable
1x RTX 3060 12GB
4.4 / 10.8 GB usable
Apple M4 24GB
4.4 / 18.0 GB usable
确定特定工作负载的硬件需求:
在显存计算器中打开
没有可用的 Liquid D1 3B 评估基准。
排名
-
编程排名
-
Liquid D1 3B is a compact foundation model from Liquid AI utilizing liquid neural network architectures for low-latency multimodal processing. It is engineered for on-device deployment across mobile and edge hardware.
注意力
注意力结构
Grouped-Query Attention
注意力头
32
键值头
8
注意力头维度
64
位置嵌入
ROPE
RoPE Theta
1,000,000
线性注意力
Yes
线性注意力比例
73.3%
归一化
RMS Normalization
激活函数
SwigLU
维度
隐藏维度大小
2,048
层数
30
FFN 中间层大小(稠密层)
10,752
分词器
词汇量大小
128,000
The LFM2 model family developed by Liquid AI.