ApX 标志ApX 标志

趋近智

Grok 4.6

活跃参数

-

上下文长度

500K

模态

Multimodal

架构

Mixture of Experts (MoE)

许可证

Proprietary

发布日期

1 Aug 2026

训练数据截止日期

-

评估基准

没有可用的 Grok 4.6 评估基准。

排名

排名

-

编程排名

-

关于 Grok 4.6

Grok 4.6 是 xAI 推出的旗舰级前沿多模态智能模型,在庞大的 Colossus 超级计算机集群上训练而成。该模型具备原生视觉理解、来自 X 平台与互联网的实时检索增强以及扩展推理能力,专为复杂的数学推理、企业级编程和高自主性智能体工作流打造,支持高达 50 万 (500K) Token 的上下文窗口。

技术规格

注意力

注意力结构

Multi-Head Attention

注意力头

-

键值头

-

注意力头维度

-

位置嵌入

ROPE

RoPE Theta

-

滑动窗口注意力

-

滑动窗口大小

-

滑动窗口比例

-

线性注意力

-

线性注意力比例

-

归一化

RMS Normalization

激活函数

SwigLU

维度

隐藏维度大小

-

层数

-

FFN 中间层大小(稠密层)

-

多 Token 预测头数

-

分词器

词汇量大小

-

混合专家

专家参数总数

-

专家数量

-

活跃专家

-

共享专家数

-

FFN 中间层大小(每专家)

-

MoE 前的稠密层数

-

关于 Grok 4

xAI 的前沿智能模型,利用拥有 20 万个 GPU 的 Colossus 集群,以史无前例的规模通过强化学习训练而成。Grok 4 系列在推理、编程和多模态理解方面展现了顶尖性能,并具备原生工具调用能力。其特点包括集成 X 平台和互联网的实时搜索功能,通过大规模强化学习(RL)训练实现的先进推理能力,以及在学术基准测试中行业领先的表现。该系列专为即时响应和具备视觉能力的深度思考模式而设计。


其他 Grok 4 模型