gpt2 openai-community

유형
model
태스크
text-generation
프레임워크
transformers
다운로드
13,777,950
좋아요
3,403
접근
public
파일
0

태그

  • 텍스트 생성
  • 대형 언어 모델
  • transformers
  • 파운데이션 모델
  • 파인튜닝

요약

GPT-2는 대규모 영어 말뭉치(WebText)에서 인과 언어모델링 목표로 자가지도 방식으로 사전학습된 대형 언어모델입니다. 다음 토큰을 예측해 프롬프트 기반의 텍스트 생성이 가능하며, 하위 작업에 대한 파인튜닝도 지원합니다. 1.24억 파라미터의 가장 작은 버전으로, zero-shot 평가에서 다양한 언어 벤치마크와 텍스트 생성 파이프라인에서 기초 모델로 널리 활용됩니다.

README

--- language: en tags: - exbert license: mit --- # GPT-2 전체 생성 기능을 여기서 테스트해 보세요: https://transformer.huggingface.co/doc/gpt2-large 인과적 언어 모델링(CLM) 목적을 사용하여 영어로 사전 학습된 모델입니다. 이 모델은 [이 논문](https://d4mucfpksywv.cloudfront.net/better-language-models/language_models_are_unsupervised_multitask_learners.p…

查看完整页面 · 查看原文