Inkling-Small

系统要求

不同量化方法和上下文大小的显存要求

没有可用的 Inkling-Small 评估基准。

关于 Inkling-Small

Inkling-Small 是由 Thinking Machine Labs 开发的开源 276B 混合专家（MoE）多模态基础模型，每个 Token 仅激活 120 亿（12B）参数。该模型基于 45 万亿多模态 Token 进行预训练，原生支持文本、图像与音频输入，配备高达 100 万（1M）Token 的上下文窗口、可控思考深度以及滑动窗口注意力机制，在大幅降低推理延迟与显存开销的同时，性能逼近甚至在部分基准上超越 975B 的 Inkling 旗舰模型。

技术规格

资源

关于 Inkling

Inkling is a family of open-weights multimodal Mixture-of-Experts (MoE) models developed by Thinking Machine Labs.

其他 Inkling 模型

• Inkling