趋近智
技术规格
注意力结构
Multi-Head Attention
隐藏维度大小
-
层数
-
注意力头
-
键值头
-
激活函数
-
归一化
-
位置嵌入
Absolute Position Embedding
系统要求
不同量化方法和上下文大小的显存要求
Gemma 3 270M
A compact open-source model optimized for hyper-efficient on-device and edge applications.
关于 Gemma 3
Gemma 3 is a family of open, lightweight models from Google. It introduces multimodal image and text processing, supports over 140 languages, and features extended context windows up to 128K tokens. Models are available in multiple parameter sizes for diverse applications.
其他 Gemma 3 模型
评估基准
排名适用于本地LLM。
没有可用的 Gemma 3 270M 评估基准。