趋近智
活跃参数
428B
上下文长度
1.05M
模态
Text
架构
Mixture of Experts
KV 缓存速率
120 KB/tok
许可证
other
发布日期
17 Oct 2026
训练数据截止日期
-
API 价格 (每 1M)
输入: $0.15 · 输出: $0.60
精度
上下文
工作负载显存: 843.49 GB
FP16 · 8K context
基础权重: 840.05 GB
KV 缓存: 0.94 GB
运行时与计算图: 2.50 GB
8x NVIDIA H200 141GB
843.5 / 1015.2 GB usable · TP 8
确定特定工作负载的硬件需求:
升级至 Pro
权重格式
FP16
CUDA
>= 11.8
PyTorch
>= 2.1
Transformers
>= 4.52.4
| 微架构 | 精度 | 注意力算子 |
|---|---|---|
Blackwell, Hopper | 原生 FP16 | FlashAttention-3 |
Ada Lovelace, Ampere | 原生 FP16 | FlashAttention-2 |
排名
#82
| 基准 | 分数 | 排名 |
|---|---|---|
Web 开发 | 1584 | 35 |
Agent Arena | -2.76 | 50 |
0.29 | 96 |
排名
#82
编程排名
#68
MiniMax M3.1 Flash is an efficient sparse multimodal foundation model built by MiniMax. It provides accelerated conditional generation and vision-language processing across complex multi-turn workflows.
注意力
注意力结构
DeepSeek Sparse Attention
注意力头
64
键值头
4
注意力头维度
128
位置嵌入
ROPE
RoPE Theta
10,000,000
索引键维度
128
归一化
RMS Normalization
激活函数
SwigLU
维度
基准精度
FP16
隐藏维度大小
6,144
层数
60
FFN 中间层大小(稠密层)
12,288
分词器
词汇量大小
200,064
混合专家
专家参数总数
23.0B
专家数量
128
活跃专家
4
共享专家数
1
FFN 中间层大小(每专家)
3,072
MoE 前的稠密层数
3
MiniMax's flagship M3 model family, released June 1, 2026, is powered by MiniMax Sparse Attention (MSA) architecture, offering 1M context capabilities at exceptionally low compute cost and optimized for long-horizon agentic workflows.