roberta-large FacebookAI
- Typ
- model
- Aufgabe
- fill-mask
- Framework
- transformers
- Downloads
- 11,440,988
- Likes
- 319
- Zugriff
- public
- Dateien
- 0
Tags
- 掩码语言建模
- NLP
- 文本嵌入
- Transformers
- 深度学习
- 英语模型
- 机器学习
- Vortrainingskorpus
Zusammenfassung
RoBERTa-large ist ein vortrainiertes transformerbasiertes Sprachmodell für die englische Sprache, das mit dem Ziel der Maskensprachmodellierung (MLM) auf einem 160GB großen Korpus aus fünf Datensätzen trainiert wurde. Es dient primär als Grundlage für nachgelagerte NLP-Aufgaben wie Sequenzklassifik…
README
--- language: en tags: - exbert license: mit datasets: - bookcorpus - wikipedia --- # RoBERTa großes Modell Vorab trainiertes Modell für die englische Sprache, das mit einem Masked Language Modeling (MLM)-Ziel trainiert wurde. Es wurde in [diesem Paper](https://arxiv.org/abs/1907.11692) vorgestellt…