dolphin QuixiAI
Dolphin 🐬 https://erichartford.com/dolphin Dataset details This dataset is an attempt to replicate the results of Microsoft's Orca Our dataset consists of: ~1 million of FLANv2 augmented with GPT-4 completions (flan1m-alpaca-uncensored.jsonl) ~3.5 million of FLANv2 augmented with GPT-3.5 completions (flan5m-alpaca-uncensored.jsonl) We followed the submix and system prompt distribution outlined in the Orca paper. With a few exceptions. We included all 75k of CoT in the FLAN-1m… See the full description on the dataset page: https://huggingface.co/datasets/QuixiAI/dolphin.
- 種別
- dataset
- ライセンス
- apache-2.0
- 言語
- en
- ダウンロード
- 1,541
- いいね
- 434
- アクセス
- public
- ファイル
- 0
タグ
- 指示微調整
- 合成データ
- 大規模言語モデル
- テキスト生成
- 対話データ
- 英語コーパス
- テキストデータセット
概要
MicrosoftのOrca論文の手法を再現した、約450万件のFLANv2にGPT-4/GPT-3.5による補完を付与した大規模指示学習データセットです。アライメント拒否・回避・バイアスを除去し、個人用アライメントLoRAを重ねられる「無検閲」モデル作成を目的としています。商用・非商用両方に利用可能なApache-2.0ライセンスで、指示微調整データとして広く活用できます。
README
--- license: apache-2.0 task_categories: - text-generation language: - en configs: - config_name: flan1m-alpaca-uncensored data_files: flan1m-alpaca-uncensored.jsonl - config_name: flan5m-alpaca-uncensored data_files: flan5m-alpaca-uncensored.jsonl --- ドルフィン 🐬 https://erichartford.com/dolphin ## デ…