趋近智
注意力结构
Multi-Head Attention
隐藏维度大小
-
层数
-
注意力头
-
键值头
-
激活函数
-
归一化
-
位置嵌入
Absolute Position Embedding
GPT-4o 是 OpenAI 的旗舰级全模态模型,在统一架构中集成了文本、视觉和音频。它具备实时响应能力,在推理、编程、多语言理解和创意写作等多样化任务中表现出色。提供 128K 上下文窗口及高效的 Token 利用率。该模型代表了多模态人工智能的重大进步,通过不同模态的无缝集成,实现了自然的人机交互。
GPT-4o(“o”代表“omni”)是 OpenAI 的旗舰级多模态模型,在统一架构中集成了文本、视觉和音频理解能力。该模型具有实时响应、卓越的多语言支持和增强的推理能力。作为 GPT-4 系列的演进版本,它不仅提升了效率,还提供了更广泛的模态支持。
排名
#38
| 基准 | 分数 | 排名 |
|---|---|---|
0.63 | 🥇 1 | |
通用知识 MMLU | 0.89 | 4 |
QA 助手 ProLLM QA Assistant | 0.96 | 5 |
StackEval ProLLM Stack Eval | 0.96 | 7 |
研究生级问答 GPQA | 0.84 | 14 |
0.75 | 15 | |
0.45 | 23 | |
专业知识 MMLU Pro | 0.74 | 42 |
排名
#38
编程排名
#70