opt-125m facebook
- 種別
- model
- タスク
- text-generation
- フレームワーク
- transformers
- ダウンロード
- 17,322,276
- いいね
- 292
- アクセス
- public
- ファイル
- 0
タグ
- テキスト生成
- 大言語モデル
- NLP
- transformers
- 事前学習
- 軽量モデル
概要
Meta AIが公開したデコーダー型事前学習トランスフォーマーモデル「OPT」の最小版(125Mパラメータ)です。因果的言語モデリング目的で事前学習され、テキスト生成やゼロショット・フューショット学習、下流タスクの評価・ファインチューニングに利用できます。研究用途での再現性を重視して設計されたモデルです。
README
--- language: en inference: false tags: - text-generation - opt license: other commercial: false --- # OPT : Open Pre-trained Transformer Language Models OPTは、[Open Pre-trained Transformer Language Models](https://arxiv.org/abs/2205.01068)で初めて紹介され、Meta AIによって2022年5月3日に[metaseq's repository](https:/…