phi-2 microsoft

类型
model
任务
text-generation
框架
transformers
下载量
1,528,097
点赞
3,500
访问
public
文件
0

标签

  • 文本生成
  • 大语言模型
  • 代码生成
  • 问答
  • NLP
  • transformers
  • 预训练
  • 本地部署

摘要

Phi-2 是微软开源的 2.7B 参数 Transformer 大语言模型,在少于 13B 参数的模型中展示接近顶尖的常识、语言理解与逻辑推理能力。它专为问答、聊天与代码三类场景设计,训练数据由合成 NLP 文本与过滤网页数据构成。模型未经人类反馈强化学习与指令微调,适合研究社区探索小型模型的安全、偏见与可控性等问题。

README

--- license: mit license_link: https://huggingface.co/microsoft/phi-2/resolve/main/LICENSE language: - en pipeline_tag: text-generation tags: - nlp - code --- ## 模型摘要 Phi-2 是一个具有 **27 亿**参数的 Transformer。它使用与 [Phi-1.5](https://huggingface.co/microsoft/phi-1.5) 相同的数据源进行训练,并新增了一个由各种 NLP 合成文本和经过筛选的网站(出…

查看完整页面 · 查看原文