GLM-4.5

技术规格

GLM-4.5

GLM-4.5 是由 Z.ai 开发的旗舰级多模态大语言模型，在统一架构中集成了复杂推理、软件工程和智能体（Agentic）能力。该模型采用了先进的混合专家（MoE）设计，总参数量达 3550 亿，通过在前向传播过程中仅激活 320 亿参数，专门针对参数效率进行了优化。该模型的一个核心特征是其双模式执行框架，允许它在用于多步规划的高延迟“思考模式”与用于标准交互任务的瞬时“非思考模式”之间进行切换。

GLM-4.5 的技术创新侧重于架构深度而非宽度，以增强逻辑演绎和数学处理能力。该模型利用了具有 96 个注意力头和 5120 个隐藏层维度的分组查询注意力（GQA）。其 MoE 实现采用了 Sigmoid 门控路由和 QK-Norm，以确保稳定的专家利用率和负载均衡。训练流水线涉及规模高达 23 万亿 Token 的海量语料库，其中包括 7 万亿专门用于代码和推理的数据集，随后使用定制的“slime”基础设施进行强化学习，以精炼自主决策能力。

GLM-4.5 专为生产级智能体应用设计，支持高成功率的原生函数调用和复杂网页浏览。它具有 128,000 Token 的广阔上下文窗口和高达 96,000 Token 的最大输出限制，使其适用于长文档分析和全栈软件开发。该模型在 MIT 许可证下开源权重，促进了其在研究和商业环境中的广泛采用。

推荐 GPU

资源