datasets
Training and evaluation data, with the modality, task and licence stated up front. Listed live from the Hugging Face Hub.
Slim-Wildchat-zhA big shout out to AllenAI, you guys rock!
从WildChat中抽出中文对话,但是因为发现了很多重复对话,有的人会反复的用一个prompt进行提问,有的人会换3.5或4去问同样的问题,所以进行了简单的去重。
去重方法大致为,使用bert-base-chinese将第一个问题转换为embedding,使用类knn的方法抽取了1万条。并转换成了sharegpt格式。
注意!在对话中发现了NSFW的内容,并没有进行过滤,使用请注意甄别。
你会找到三个jsonl文件:
wildchat-seed-multi-200.json 是使用每一个单独的Dialogue的首个HumanQuestion为基础,采样的200个种子任务,用于EvolInsturction。
Subsample_10K.jsonl 原始版本,是使用每一个单独的Dialogue的首个HumanQuestion为基础,采样的1万个对话。
1213_Wildchat_zh_Sharegpt_ConcatSubsample_20k.jsonl… See the full description on the dataset page: https://huggingface.co/datasets/lorinma/Slim-Wildchat-zh.GSM8K
LoRID: A Reasoning Distillation Method via Multi-LoRA Interaction
📃 Paper • 💻 Code • 🤗 HF Repo
Abstract
The datasets for "Can Large Models Teach Student Models to Solve Mathematical Problems Like Human Beings? A Reasoning Distillation Method via Multi-LoRA Interaction" [IJCAI 2025].
Key Contributions
We focus on the mathematical reasoning distillation task and propose a novel method LoRID, which draws inspiration from the human beings teaching and learning… See the full description on the dataset page: https://huggingface.co/datasets/LoRID-Math/GSM8K.MATH
LoRID: A Reasoning Distillation Method via Multi-LoRA Interaction
📃 Paper • 💻 Code • 🤗 HF Repo
Abstract
The datasets for "Can Large Models Teach Student Models to Solve Mathematical Problems Like Human Beings? A Reasoning Distillation Method via Multi-LoRA Interaction" [IJCAI 2025].
Key Contributions
We focus on the mathematical reasoning distillation task and propose a novel method LoRID, which draws inspiration from the human beings teaching and learning… See the full description on the dataset page: https://huggingface.co/datasets/LoRID-Math/MATH.Slim-LCCC-zh在LLM横行的今天,大家都在讲究SFT数据质量。相比于各种一板一眼的AI回复,又是step by step又是detailed reasoning,这种非常casual的对话显得那么的独特,更适合用作情感陪伴闲聊机器人的目的。
本项目提供了一个大规模中文对话数据集,原始数据来自于清华大学的LCCC(Large-scale Cleaned Chinese Conversation)数据集
基于LCCC-large,但因为有1200万。故使用bert-base-chinese转换为embedding,且使用类knn的方法抽取了1万条。并转换成了sharegpt格式。
从实用的角度来说,因为对话都只有两句,需要通过GPT进行续写。但是实测发现openai系列的太严肃了,失去了casual的味道。浅测了一下文心一言可以续写这种闲聊对话。只是测试了一下,并没有放在这个数据集中。
当然了,最好的还是收集真实世界的对话。
Slim-Moss003sft-zh因为原生的Moss003数量太大,所以进行了简单的去重。
去重方法大致为,只选择中文的对话,使用bert-base-chinese将第一个问题转换为embedding,使用类knn的方法抽取了1万条。并转换成了sharegpt格式。
