趋近智
技术规格
注意力
注意力结构
Multi-Head Attention
注意力头
-
键值头
-
注意力头维度
-
位置嵌入
Absolute Position Embedding
RoPE Theta
-
滑动窗口注意力
-
滑动窗口大小
-
归一化
-
激活函数
-
维度
隐藏维度大小
-
层数
-
FFN 中间层大小（稠密层）
-
多 Token 预测头数
-
分词器
词汇量大小
-
o4-mini
o4-mini 为成本敏感型应用带来了高效的推理能力。它比 o3 系列更紧凑，同时在推理任务上保持了稳健的性能。该模型在推理能力和性价比之间实现了卓越的平衡，使推理型 AI 能够应用于更广泛的使用场景。它在数学、编程挑战和结构化问题解决方面表现出色，是需要大规模深度分析的应用场景的理想选择。
关于 o4
o4-mini 系列将高效的推理能力引入更轻量化的规格，使先进的深思熟虑型 AI 更加普及。该系列针对高性价比部署进行了优化，同时在推理基准测试中保持了强劲性能，是需要大规模缜密分析的应用场景的理想选择。
其他 o4 模型
- 没有相关模型