ApX 标志ApX 标志

趋近智

Step 3.5 Flash

活跃参数

196.81B

上下文长度

256K

模态

Multimodal

架构

Mixture of Experts

KV 缓存速率

180 KB/tok

许可证

Apache 2.0

发布日期

11 Feb 2026

训练数据截止日期

-

API 价格 (每 1M)

输入: $0.10 · 输出: $0.30

硬件与系统要求

精度

Native

上下文

工作负载显存: 390.98 GB

FP16 · 8K context

基础权重: 387.08 GB

KV 缓存: 1.41 GB

运行时与计算图: 2.50 GB

最小所需硬件

8x NVIDIA H100 80GB

391.0 / 576.0 GB usable · TP 8

确定特定工作负载的硬件需求:

在显存计算器中打开

架构图

Input TokensToken EmbeddingPosition: RoPEHidden: 4.1k · Context: 256K · Vocab: 128.9kx 45 layersRMSNormPre-AttentionGrouped-Query Attention64Q / 8KV heads · SW: 512Head dim: 128+RMSNormPre-FFNSparse MoE FFN (8/288 experts)GELUIntermediate: 1.3k+Final RMSNormOutput Logits

评估基准

排名

#126

基准分数排名

通用文本

Text Arena

1393

118

0.17

193

排名

排名

#126

编程排名

-

关于 Step 3.5 Flash

Step 3.5 Flash 是阶跃星辰(StepFun)最强大的开源基座模型。该模型采用稀疏混合专家(MoE)架构,总参数量达 196B,而每个 token 激活参数仅为 11B,在保持卓越效率的同时,提供了前沿的推理与智能体(agentic)能力。它具备 256K 上下文窗口,支持文本和图像输入,并在 SWE-bench Verified 和 Terminal-Bench 2.0 上分别取得了 74.4% 和 51.0% 的优异成绩。模型针对包括 Mac Studio M4 Max 及高端 GPU 在内的消费级硬件本地部署进行了优化。得益于三路多 Token 预测(MTP-3)技术,其生成吞吐量可达 100-350 tok/s。

Specifications

注意力

注意力结构

Grouped-Query Attention

注意力头

64

键值头

8

注意力头维度

128

位置嵌入

ROPE

滑动窗口注意力

Yes

滑动窗口大小

512

归一化

RMS Normalization

激活函数

GELU

维度

基准精度

BF16

隐藏维度大小

4,096

层数

45

FFN 中间层大小(稠密层)

1,280

多 Token 预测头数

3

分词器

词汇量大小

128,896

混合专家

专家参数总数

11.0B

专家数量

288

活跃专家

8

FFN 中间层大小(每专家)

1,280

关于 Step 3.5

Step 3.5 is StepFun's flagship frontier reasoning model family. Built on sparse Mixture-of-Experts (MoE) architecture, Step 3.5 models deliver frontier-level intelligence for agentic, reasoning, and coding tasks. The Flash variant selectively activates only 11B of its 196B parameters per token, achieving the reasoning depth of top-tier proprietary models while maintaining exceptional efficiency. Features 256K context window, native function calling, and Multi-Token Prediction for high-throughput inference. Released under Apache 2.0 license.


其他 Step 3.5 模型
  • 没有相关模型