phi-2 microsoft
- 类型
- model
- 任务
- text-generation
- 框架
- transformers
- 下载量
- 1,528,097
- 点赞
- 3,500
- 访问
- public
- 文件
- 0
标签
- 文本生成
- 大语言模型
- 代码生成
- 问答
- NLP
- transformers
- 预训练
- 本地部署
摘要
Phi-2 是微软开源的 2.7B 参数 Transformer 大语言模型,在少于 13B 参数的模型中展示接近顶尖的常识、语言理解与逻辑推理能力。它专为问答、聊天与代码三类场景设计,训练数据由合成 NLP 文本与过滤网页数据构成。模型未经人类反馈强化学习与指令微调,适合研究社区探索小型模型的安全、偏见与可控性等问题。
README
--- license: mit license_link: https://huggingface.co/microsoft/phi-2/resolve/main/LICENSE language: - en pipeline_tag: text-generation tags: - nlp - code --- ## 模型摘要 Phi-2 是一个具有 **27 亿**参数的 Transformer。它使用与 [Phi-1.5](https://huggingface.co/microsoft/phi-1.5) 相同的数据源进行训练,并新增了一个由各种 NLP 合成文本和经过筛选的网站(出…