ultrachat_200k HuggingFaceH4
Dataset Card for UltraChat 200k Dataset Description This is a heavily filtered version of the UltraChat dataset and was used to train Zephyr-7B-β, a state of the art 7b chat model. The original datasets consists of 1.4M dialogues generated by ChatGPT and spanning a wide range of topics. To create UltraChat 200k, we applied the following logic: Selection of a subset of data for faster supervised fine tuning. Truecasing of the dataset, as we observed around 5% of… See the full description on the dataset page: https://huggingface.co/datasets/HuggingFaceH4/ultrachat_200k.
- Typ
- dataset
- Lizenz
- mit
- Sprache
- en
- Downloads
- 79,784
- Likes
- 874
- Zugriff
- public
- Dateien
- 10
Tags
- Synthetische Daten
- Anweisungs-Feinabstimmung
- Dialogdaten
- Englisch
- Große Sprachmodelle
- Textgenerierung
- Feinabstimmung
Zusammenfassung
UltraChat 200k ist eine stark gefilterte Version des UltraChat-Datensatzes mit rund 200.000 hochwertigen, von ChatGPT generierten Dialogen, die zum Training von Zephyr-7B-β verwendet wurde. Der Datensatz löst das Problem der Datenaugmentation für überwachte Feinabstimmung (SFT) und Generierungs-Ran…
README
--- language: - en license: mit size_categories: - 100K<n<1M task_categories: - text-generation pretty_name: UltraChat 200k configs: - config_name: default data_files: - split: train_sft path: data/train_sft-* - split: test_sft path: data/test_sft-* - split: train_gen path: data/train_gen-* - split…