xlm-roberta-large FacebookAI
- 種別
- model
- タスク
- fill-mask
- フレームワーク
- transformers
- ダウンロード
- 6,271,963
- いいね
- 525
- アクセス
- public
- ファイル
- 0
タグ
- 多言語
- マスク言語モデリング
- テキスト分類
- NLP
- 特徴抽出
- 事前学習
- transformers
- 言語モデリング
概要
XLM-RoBERTaはRoBERTaを拡張した多言語バージョンのTransformerモデルで、100言語・2.5TBのCommonCrawlデータで事前学習されています。マスク言語モデリング(MLM)目的で自己教師あり学習されており、シーケンス分類やトークン分類、質疑応答などの下流タスクへのファインチューニングを主目的としています。多言語の特徴抽出用途に広く利用され、テキスト分類や文類似度などのタスクに適用できます。
README
--- tags: - exbert language: - multilingual - af - am - ar - as - az - be - bg - bn - br - bs - ca - cs - cy - da - de - el - en - eo - es - et - eu - fa - fi - fr - fy - ga - gd - gl - gu - ha - he - hi - hr - hu - hy - id - is - it - ja - jv - ka - kk - km - kn - ko - ku - ky - la - lo - lt - lv …