ApX 标志ApX 标志

趋近智

LongCat 2.0

活跃参数

1.6T

上下文长度

1.05M

模态

Text

架构

Mixture of Experts (MoE)

许可证

MIT License

发布日期

5 Jul 2026

训练数据截止日期

-

系统要求

不同量化方法和上下文大小的显存要求

1024 个令牌

3361.67 GB VRAM

消费级

251x RTX 4090

24GB VRAM

数据中心

58x NVIDIA A100

80GB VRAM

Apple Silicon

56x Apple M3 Max

128GB VRAM

1048756 个令牌

3532.90 GB VRAM

消费级

268x RTX 4090

24GB VRAM

数据中心

62x NVIDIA A100

80GB VRAM

Apple Silicon

60x Apple M3 Max

128GB VRAM

架构图

Input TokensToken EmbeddingPosition: RoPEHidden: 8.2k · Context: 1.05M · Vocab: 163.8kx 38 layersRMSNormPre-AttentionDeepSeek Sparse Attention64 headsHead dim: 128+RMSNormPre-FFNSparse MoE FFN (12/768 experts)SwiGLUIntermediate: 2k+Final RMSNormOutput Logits

评估基准

没有可用的 LongCat 2.0 评估基准。

排名

排名

-

编程排名

-

关于 LongCat 2.0

LongCat 2.0 是美团开发的大规模混合专家(MoE)模型,在 1.6T 总参数中激活了 48B 参数。该模型专为复杂的仓库级软件修改、扩展推理以及智能体工作流而设计。

技术规格

注意力

注意力结构

DeepSeek Sparse Attention

注意力头

64

键值头

-

注意力头维度

128

位置嵌入

ROPE

RoPE Theta

1,000,000

滑动窗口注意力

No

滑动窗口大小

-

滑动窗口比例

-

线性注意力

No

线性注意力比例

-

归一化

RMS Normalization

激活函数

SwigLU

维度

隐藏维度大小

8,192

层数

38

FFN 中间层大小(稠密层)

12,288

多 Token 预测头数

3

分词器

词汇量大小

163,840

混合专家

专家参数总数

48.0B

专家数量

768

活跃专家

12

共享专家数

-

FFN 中间层大小(每专家)

2,048

MoE 前的稠密层数

-

关于 LongCat

The LongCat model family developed by Meituan.


其他 LongCat 模型
  • 没有相关模型