ApX 标志ApX 标志

趋近智

MiniMax M3.1 Flash

活跃参数

428B

上下文长度

1.05M

模态

Text

架构

Mixture of Experts

KV 缓存速率

120 KB/tok

许可证

other

发布日期

17 Oct 2026

训练数据截止日期

-

API 价格 (每 1M)

输入: $0.15 · 输出: $0.60

硬件与系统要求

精度

Native

上下文

工作负载显存: 843.49 GB

FP16 · 8K context

基础权重: 840.05 GB

KV 缓存: 0.94 GB

运行时与计算图: 2.50 GB

最小所需硬件

8x NVIDIA H200 141GB

843.5 / 1015.2 GB usable · TP 8

确定特定工作负载的硬件需求:

升级至 Pro

运行时要求

权重格式

FP16

CUDA

>= 11.8

PyTorch

>= 2.1

Transformers

>= 4.52.4

微架构精度注意力算子

Blackwell, Hopper

原生 FP16

FlashAttention-3

Ada Lovelace, Ampere

原生 FP16

FlashAttention-2

架构图

Input TokensToken EmbeddingPosition: RoPEHidden: 6.1k · Context: 1.05M · Vocab: 200.1kx 60 layersRMSNormPre-AttentionDeepSeek Sparse Attention64Q / 4KV headsHead dim: 128+RMSNormPre-FFNSparse MoE FFN (4/128 experts)SwiGLUIntermediate: 3.1k+Final RMSNormOutput Logits

评估基准

排名

#82

基准分数排名

Web 开发

WebDev Arena

1584

35

Agent Arena

Agent Arena

-2.76

50

0.29

96

排名

排名

#82

编程排名

#68

关于 MiniMax M3.1 Flash

MiniMax M3.1 Flash is an efficient sparse multimodal foundation model built by MiniMax. It provides accelerated conditional generation and vision-language processing across complex multi-turn workflows.

Specifications

注意力

注意力结构

DeepSeek Sparse Attention

注意力头

64

键值头

4

注意力头维度

128

位置嵌入

ROPE

RoPE Theta

10,000,000

索引键维度

128

归一化

RMS Normalization

激活函数

SwigLU

维度

基准精度

FP16

隐藏维度大小

6,144

层数

60

FFN 中间层大小(稠密层)

12,288

分词器

词汇量大小

200,064

混合专家

专家参数总数

23.0B

专家数量

128

活跃专家

4

共享专家数

1

FFN 中间层大小(每专家)

3,072

MoE 前的稠密层数

3

关于 MiniMax M3

MiniMax's flagship M3 model family, released June 1, 2026, is powered by MiniMax Sparse Attention (MSA) architecture, offering 1M context capabilities at exceptionally low compute cost and optimized for long-horizon agentic workflows.


其他 MiniMax M3 模型