gpt2 openai-community

类型
model
任务
text-generation
框架
transformers
下载量
13,777,950
点赞
3,403
访问
public
文件
0

标签

  • 文本生成
  • 大语言模型
  • 生成式AI
  • NLP
  • transformers
  • PyTorch
  • 预训练语料

摘要

GPT-2 是 OpenAI 发布的自监督预训练语言模型，采用因果语言建模目标，在 40GB WebText 英语语料上训练，擅长根据提示生成连贯文本。这是最小的 124M 参数版本，可直接用于文本生成或微调到下游任务。模型不支持区分事实与虚构，且可能反映训练数据中的偏见，不推荐用于需要真实性的场景。

README

--- language: en tags: - exbert license: mit --- # GPT-2 在这里测试完整的生成能力：https://transformer.huggingface.co/doc/gpt2-large 使用因果语言建模（CLM）目标在英语上预训练的模型。它由 [这篇论文](https://d4mucfpksywv.cloudfront.net/better-language-models/language_models_are_unsupervised_multitask_learners.pdf) 提出，并首次发布于[此页面](https://open…

查看完整页面 · 查看原文