趋近智
Inkling
活跃参数
975B
上下文长度
1.05M
模态
Multimodal
架构
Mixture of Experts
KV 缓存速率
264 KB/tok
许可证
Apache 2.0
发布日期
15 Jul 2026
训练数据截止日期
-
API 价格 (每 1M)
输入: $1.00 · 输出: $4.05
硬件与系统要求
精度
上下文
工作负载显存: 1897.01 GB
FP16 · 8K context
基础权重: 1892.45 GB
KV 缓存: 2.06 GB
运行时与计算图: 2.50 GB
最小所需硬件
16x NVIDIA H200 141GB
1897.0 / 2030.4 GB usable · TP 8 · PP 2
确定特定工作负载的硬件需求：
升级至 Pro
运行时要求
权重格式
FP16
CUDA
>= 11.8
PyTorch
>= 2.1
Transformers
>= 4.40.1
| 微架构 | 精度 | 注意力算子 |
|---|---|---|
Blackwell, Hopper | 原生 FP16 | FlashAttention-3 |
Ada Lovelace, Ampere | 原生 FP16 | FlashAttention-2 |
架构图
评估基准
排名
#132
| 基准 | 分数 | 排名 |
|---|---|---|
max 0.49 | 39 | |
max 0.88 | 39 | |
max 0.73 | 41 | |
max 0.72 | 49 | |
LiveBench 平均分 | max 0.72 | 49 |
max 0.71 | 55 | |
max 0.78 | 55 | |
Agent Arena | -17.36 | 69 |
智能体指数 | max 0.23 | 75 |
通用文本 | 1442 | 79 |
Web 开发 | 1414 | 81 |
max 0.52 | 82 | |
max 0.13 | 233 |
排名
排名
#132
编程排名
#95
关于 Inkling
Inkling 是由 Thinking Machine Labs 开发的一款通用、开放权重 975B 混合专家 (MoE) 多模态模型。它拥有 1M token 的上下文窗口，采用相对位置嵌入技术以实现卓越的外推性能，并原生支持文本、图像及音频输入。
Specifications
注意力
注意力结构
Multi-Head Attention
注意力头
64
键值头
8
注意力头维度
128
位置嵌入
Relative Position Embedding
滑动窗口注意力
Yes
滑动窗口大小
512
滑动窗口比例
83.3%
归一化
RMS Normalization
维度
基准精度
FP16
隐藏维度大小
6,144
层数
66
FFN 中间层大小（稠密层）
24,576
多 Token 预测头数
8
分词器
词汇量大小
201,024
混合专家
专家参数总数
41.0B
专家数量
256
活跃专家
6
共享专家数
2
FFN 中间层大小（每专家）
3,072
关于 Inkling
Inkling is a family of open-weights multimodal Mixture-of-Experts (MoE) models developed by Thinking Machine Labs.