wikitext Salesforce
Dataset Card for "wikitext" Dataset Summary The WikiText language modeling dataset is a collection of over 100 million tokens extracted from the set of verified Good and Featured articles on Wikipedia. The dataset is available under the Creative Commons Attribution-ShareAlike License. Compared to the preprocessed version of Penn Treebank (PTB), WikiText-2 is over 2 times larger and WikiText-103 is over 110 times larger. The WikiText dataset also features a far… See the full description on the dataset page: https://huggingface.co/datasets/Salesforce/wikitext.
- Tipo
- dataset
- Licencia
- cc-by-sa-3.0
- Lenguaje
- en
- Descargas
- 1,498,204
- Me gusta
- 758
- Acceso
- public
- Archivos
- 0
Etiquetas
- preentrenamiento de LLM
- generación de texto
- texto
- NLP
- preentrenamiento
- modelo de lenguaje
- relleno de máscara
- Benchmark
Resumen
WikiText es un dataset estándar para modelado de lenguaje y modelado de lenguaje enmascarado, compuesto por artículos verificados y destacados de Wikipedia en inglés. Ofrece las variantes WikiText-2 y WikiText-103, cada una en versiones raw y tokenizada, ideales para capturar dependencias de largo …
README
--- annotations_creators: - no-annotation language_creators: - crowdsourced language: - en license: - cc-by-sa-3.0 - gfdl multilinguality: - monolingual size_categories: - 1M<n<10M source_datasets: - original task_categories: - text-generation - fill-mask task_ids: - language-modeling - masked-lang…