datasets
Training and evaluation data, with the modality, task and licence stated up front. Listed live from the Hugging Face Hub.
repro-rephrased-data-72BThis is the 72B rephrased data by repro-rephraser-4B from RePro: Training Language Models to Faithfully Recycle the Web for Pretraining.
Code: https://github.com/cxcscmu/RePro
Synthetic-JP-Preference-Dataset-Qwen2.5_72B-191k
Synthetic-JP-Preference-Dataset-Qwen2.5_72B-191k
概要
5種類のオープンモデルとQwen/Qwen2.5-72B-Instruct-GPTQ-Int8を使って作成した、190854件の日本語合成Preferenceデータセットです。
以下、データセットの詳細です。
instructionには、Aratako/Magpie-Tanuki-8B-annotated-96kのinput_qualityがexcellentのものを利用
回答生成には、以下の5つのApache 2.0ライセンスのモデルを利用
weblab-GENIAC/Tanuki-8B-dpo-v1.0
team-hatakeyama-phase2/Tanuki-8x8B-dpo-v1.0-GPTQ-8bit
cyberagent/calm3-22b-chat
llm-jp/llm-jp-3-13b-instruct
Qwen/Qwen2.5-32B-Instruct-GPTQ-Int8… See the full description on the dataset page: https://huggingface.co/datasets/Aratako/Synthetic-JP-Preference-Dataset-Qwen2.5_72B-191k.llm-complex-reasoning-train-qwen2-72b-instruct-correct
Note
Data Seed from 基于封闭世界假设的复杂逻辑推理
Generate from Qwen2-72B-Instruct with prompt
train.jsonl for 推理答案和题目答案一致, no_train.jsonl推理答案和题目答案不一致
注: 题目答案不一定正确
Self-Instruct-Qwen2.5-72B-Instruct-60k
Self-Instruct-Qwen2.5-72B-Instruct-60k
概要
以下の手順で作成した約6万件の日本語の合成instructionデータセットです。
MagpieとEvol-Instructを使って作成された合成instructionデータであるAratako/Magpie-Tanuki-Instruction-Selected-Evolved-26.5kに対し、Qwen/Qwen2.5-72B-Instruct-GPTQ-Int8を使ってinstructionのカテゴリを付与
同じカテゴリに分類された3つのinstructionをseed taskとしてQwen/Qwen2.5-72B-Instruct-GPTQ-Int8に与え、Self-Instructの手法で7個のinstructionを生成
元論文の実装とは一部異なります。
generated_instruction列が生成されたinstructionです。
ライセンス
基本的にはApache 2.0に準じますが、Qwen… See the full description on the dataset page: https://huggingface.co/datasets/Aratako/Self-Instruct-Qwen2.5-72B-Instruct-60k.