趋近智
技术规格
注意力
注意力结构
Multi-Head Attention
注意力头
-
键值头
-
注意力头维度
-
位置嵌入
Absolute Position Embedding
RoPE Theta
-
滑动窗口注意力
-
滑动窗口大小
-
归一化
-
激活函数
-
维度
隐藏维度大小
-
层数
-
FFN 中间层大小（稠密层）
-
多 Token 预测头数
-
分词器
词汇量大小
-
GPT-4o
GPT-4o 是 OpenAI 的旗舰级全模态模型，在统一架构中集成了文本、视觉和音频。它具备实时响应能力，在推理、编程、多语言理解和创意写作等多样化任务中表现出色。提供 128K 上下文窗口及高效的 Token 利用率。该模型代表了多模态人工智能的重大进步，通过不同模态的无缝集成，实现了自然的人机交互。
关于 GPT-4o
GPT-4o（“o”代表“omni”）是 OpenAI 的旗舰级多模态模型，在统一架构中集成了文本、视觉和音频理解能力。该模型具有实时响应、卓越的多语言支持和增强的推理能力。作为 GPT-4 系列的演进版本，它不仅提升了效率，还提供了更广泛的模态支持。
其他 GPT-4o 模型
- 没有相关模型
评估基准
排名
#39
| 基准 | 分数 | 排名 |
|---|---|---|
0.63 | 🥇 1 | |
通用知识 MMLU | 0.887 | ⭐ 5 |
StackEval ProLLM Stack Eval | 0.961 | 7 |
QA 助手 ProLLM QA Assistant | 0.956 | 8 |
研究生级问答 GPQA | 0.84 | 14 |
0.753 | 17 | |
0.45 | 27 | |
专业知识 MMLU Pro | 0.74 | 46 |