Mistral-7B-v0.1 mistralai
- 类型
- model
- 任务
- text-generation
- 框架
- transformers
- 下载量
- 541,540
- 点赞
- 4,144
- 访问
- public
- 文件
- 0
标签
- 文本生成
- 大语言模型
- 预训练
- transformers
- 生成式AI
- 本地部署
- 微调
- NLP
摘要
Mistral-7B-v0.1 是 Mistral AI 推出的70亿参数预训练基座大语言模型,采用分组查询注意力、滑动窗口注意力等技术,在多项基准测试中超越 Llama 2 13B。它面向通用文本生成任务,可作为下游微调与本地部署的基础模型。需要注意的是这是预训练基座模型,不含任何内容审核机制,实际使用时需自行叠加安全层。
README
--- library_name: transformers language: - en license: apache-2.0 tags: - pretrained - mistral-common inference: false extra_gated_description: >- 如果您想进一步了解我们如何处理您的个人数据,请阅读我们的<a href="https://mistral.ai/terms/">隐私政策</a>。 --- # Mistral-7B-v0.1 模型卡 Mistral-7B-v0.1 大型语言模型(LLM)是一个具有 70 亿参数的预训练生成式文本模型。 …