Mistral-7B-v0.1

系统要求

不同量化方法和上下文大小的显存要求

没有可用的 Mistral-7B-v0.1 评估基准。

关于 Mistral-7B-v0.1

Mistral-7B-v0.1 是由 Mistral AI 开发的拥有 73 亿参数的大语言模型，专为在自然语言处理任务中实现卓越性能和计算效率而设计。其设计优先考虑高效推理，使其适用于各种应用场景的实际部署。该模型基于仅解码器（decoder-only）的 Transformer 架构，并集成了多项关键创新以优化其运行效率。

技术规格

资源

关于 Mistral 7B

Mistral 7B 是一款拥有 73 亿参数的模型，采用了仅解码器（decoder-only）的 Transformer 架构。它具备滑动窗口注意力（Sliding Window Attention）和分组查询注意力（Grouped Query Attention），可实现高效的长序列处理。其滚动缓冲区缓存（Rolling Buffer Cache）优化了内存使用，这些特性共同构成了其高效语言处理的设计方案。

其他 Mistral 7B 模型

• Mistral-7B-Instruct-v0.2
• Mistral-7B-Instruct-v0.1