强强联合,开源中文DeepSeek-R1蒸馏数据集联合魔搭社区,一起来训练中文版推理模型!

简介: 近期,刘聪NLP开源了开源中文DeepSeek-R1(满血)蒸馏数据集包括SFT版本和普通版本,话不多说,先放数据下载链接。

前言

近期,刘聪NLP开源了开源中文DeepSeek-R1(满血)蒸馏数据集包括SFT版本和普通版本,话不多说,先放数据下载链接。

中文基于满血DeepSeek-R1蒸馏数据集-110k-SFT版本:

https://modelscope.cn/datasets/liucong/Chinese-DeepSeek-R1-Distill-data-110k-SFT

中文基于满血DeepSeek-R1蒸馏数据集-110k:

https://modelscope.cn/datasets/liucong/Chinese-DeepSeek-R1-Distill-data-110k

本数据集为中文开源蒸馏满血R1的数据集,数据集中不仅包含math数据,还包括大量的通用类型数据,总数量为110K。

为什么开源这个数据?

DeepSeek-R1的效果十分强大,并且基于R1蒸馏数据SFT的小模型也展现出了强大的效果,但目前我们发现,大部分开源的R1蒸馏数据集均为英文数据集。同时,R1的报告中展示,蒸馏模型中同时也使用了部分通用场景数据集,来保障训练中不丢失通用能力。为了帮助大家更好地复现R1蒸馏模型的效果,特此开源中文数据集。

该数据集发布后,也迅速登上HuggingFace Trending榜!

该中文数据集中的数据分布如下:

  • Math:共计36568个样本,
  • Exam:共计2432个样本,
  • STEM:共计12648个样本,
  • General:共计58352,包含弱智吧、逻辑推理、小红书、知乎、Chat等

01.数据集蒸馏细节

数据的prompt源来自如下数据集:

  • Haijian/Advanced-Math
  • gavinluo/applied_math
  • meta-math/GSM8K_zh
  • EduChat-Math
  • m-a-p/COIG-CQIA
  • m-a-p/neo_sft_phase2
  • hfl/stem_zh_instruction

同时为了方便大家溯源,在每条数据的repo_name字段中都加入的原始数据源repo。

在蒸馏过程中,按照DeepSeek-R1官方提供的细节,进行数据蒸馏。

  • 不增加额外的系统提示词
  • 设置temperature为0.6
  • 如果为数学类型数据,则增加提示词,“请一步步推理,并把最终答案放到 \boxed{}。”
  • 防止跳出思维模式,强制在每个输出的开头增加"\n",再开始生成数据

由于模型贡献者个人资源有限,所有数据的蒸馏均调用无问芯穹的企业版满血R1 API生成,在此由衷的感谢无问芯穹提供的支持。

02.数据打分细节

数据生成结果进行了二次校验,并保留了评价分数。

针对Math和Exam数据,先利用Math-Verify进行校对,无法规则抽取结果的数据,再利用Qwen2.5-72B-Instruct模型进行打分,正确为10分,错误为0分。

针对其他数据,直接利用Qwen2.5-72B-Instruct模型从无害性、有用性、正确性/完整性三个角度进行打分,分值范围为0-10分。

本数据集保留了最后打分结果,为后续的数据筛选提供帮助,但注意,所有打分均基于模型,因此评分可能并不准确,请斟酌使用。

03.最佳实践

ms-swift已经接入了中文基于满血DeepSeek-R1蒸馏数据集,通过指定`--dataset liucong/Chinese-DeepSeek-R1-Distill-data-110k-SFT`即可选择该数据集进行训练。ms-swift是魔搭社区官方提供的大模型与多模态大模型训练部署框架。

ms-swift开源地址:

https://github.com/modelscope/ms-swift

本章将展示使用ms-swift对该数据集进行SFT。在开始训练之前,请先安装ms-swift:

# pip install git+https://github.com/modelscope/ms-swift.git
git clone https://github.com/modelscope/ms-swift.git
cd ms-swift
pip install -e .

微调脚本如下,我们随机抽样数据集中的2000条进行训练:

nproc_per_node=2
CUDA_VISIBLE_DEVICES=0,1 \
NPROC_PER_NODE=$nproc_per_node \
swift sft \
    --model Qwen/Qwen2.5-1.5B \
    --train_type full \
    --dataset 'liucong/Chinese-DeepSeek-R1-Distill-data-110k-SFT#2000' \
    --torch_dtype bfloat16 \
    --num_train_epochs 10 \
    --per_device_train_batch_size 1 \
    --per_device_eval_batch_size 1 \
    --learning_rate 1e-5 \
    --gradient_accumulation_steps $(expr 16 / $nproc_per_node) \
    --eval_steps 200 \
    --save_steps 200 \
    --save_total_limit 5 \
    --logging_steps 5 \
    --max_length 8192 \
    --output_dir output \
    --warmup_ratio 0.05 \
    --dataloader_num_workers 4 \
    --deepspeed zero2

训练显存占用:(训练时长:40分钟)

推理脚本如下,需要将`--model`替换成训练生产的last checkpoint文件夹:

# pip install vllm -U
CUDA_VISIBLE_DEVICES=0 \
swift infer \
    --model output/vx-xxx/checkpoint-xxx \
    --stream true \
    --infer_backend vllm \
    --max_model_len 8192 \
    --max_new_tokens 2048 \
    --temperature 0.3

推送到ModelScope:

swift export \
    --model output/vx-xxx/checkpoint-xxx \
    --push_to_hub true \
    --hub_model_id '<your-model-id>' \
    --hub_token '<your-sdk-token>'

训练效果:(有部分内容省略)

04.局限性

由于数据是由蒸馏DeepSeek-R1生成的,未经严格验证,在事实性和其他方面还存在一些不足。因此,在使用此数据集时,请务必注意甄别。

本数据集不代表任何一方的立场、利益或想法,无关任何团体的任何类型的主张。因使用本数据集带来的任何损害、纠纷,本项目的开发者不承担任何责任。

点击链接即可跳转数据集~

中文基于满血DeepSeek-R1蒸馏数据集-110k

目录
相关文章
|
8月前
|
网络协议 安全 数据采集
阿里云Socks5代理功能与应用场景详解
Socks5代理是阿里云环境下高效合规的会话层代理工具,支持TCP/UDP全协议透明传输,具备高匿名性、强兼容性与精细权限管控能力,广泛应用于合规数据采集、跨境访问、云资源安全调用及远程运维等场景。
阿里云Socks5代理功能与应用场景详解
|
搜索推荐 数据可视化 数据挖掘
构建精准的目标客户群用户画像构建
构建精准的目标客户群用户画像
2155 6
|
监控 安全 JavaScript
浅谈移动端设备标识码:DeviceID、IMEI、IDFA、UDID和UUID
场景 : 客户提出一个问题就是把用户的登录记录和设备绑定到一起,就是每个人都是固定的设备(可能是安全因素吧)。一开始想的是回去设备的IMEI号和用户账号绑定起来,结果发现IMEI不对外开发,只能另寻他法,最后通过获取设备序列号作为唯一标识。
浅谈移动端设备标识码:DeviceID、IMEI、IDFA、UDID和UUID
|
2月前
|
存储 人工智能 自然语言处理
OPC 一人公司创新助力计划深度解读|“一人 + AI” 开启轻创业,算力‑工具‑生态一站式扶持个体创新
阿里云推出OPC一人公司计划,面向开发者、创作者等提供AI+云全栈支持:覆盖想法验证至商业增长四阶段,含算力补贴、技术护航、上架通道、品牌曝光及投融资对接,零公司注册门槛,助力“超级个体”高效创业。
|
8月前
|
机器学习/深度学习 监控 算法
基于YOLO26的电梯内电瓶车检测识别(中英文双版) | 附完整源码与效果演示
本文提出了一种基于YOLO26深度学习算法的电梯内电瓶车检测识别系统。该系统通过部署在电梯内的摄像头实时采集视频流,利用训练好的YOLO26模型对画面中的目标进行检测,准确识别出自行车和电动摩托车两类目标,从而实现对违规行为的智能预警和拦截。
|
8月前
|
Linux API 数据安全/隐私保护
阿里云+本地部署OpenClaw及跨设备使用手册:配置不丢失方案与免费大模型集成教程
2026年,多设备办公已成为主流工作模式,但配置丢失、插件缺失、快捷键错乱等问题常常打断工作节奏,严重影响效率。OpenClaw(Clawdbot)作为开源AI代理与自动化平台,凭借“本地优先”架构与灵活的扩展能力,成为跨设备协作的核心工具。通过科学的配置同步策略与标准化部署流程,可实现多设备间配置一致、数据可控、操作无缝衔接,让跨电脑使用不再依赖手工重复配置。
930 0
|
6月前
|
算法 安全 程序员
这个主题绝了,转为程序员设计,VS Code完美配合。
这是一款专为开发者设计的VS Code荧光绿主题套件,含6种风格(如Midnight、Liquid Glass),兼顾护眼、降噪与审美。高亮关键字、柔化字符串、弱化注释,提升代码可读性;同步终端配色,消除视觉割裂。小改变,大心流——让眼睛更轻松,思维更专注。(239字)
701 1
|
人工智能 自然语言处理 搜索推荐
马斯克AI Grok 3 国内如何使用?请收下这篇新手指南!
Grok AI,由埃隆·马斯克(Elon Musk)旗下的人工智能初创公司 xAI 于 2023 年 11 月推出,迅速成为 AI 领域的一颗耀眼新星
9224 80
|
存储 NoSQL 区块链
开源:LMDB 操作工具:lmcmd
本文介绍了 LMDB(一种高效的键值存储数据库)和基于 Python 开发的命令行工具 `lmcmd`。由于 LMDB 使用二进制文件存储,管理和调试不便,因此开发了 `lmcmd`,提供了类似 Redis 的命令行操作界面,支持数据库操作、数据导入导出和查找等功能。文章涵盖了 `lmcmd` 的安装、连接数据库和常用命令(如 `set`、`get`、`export` 等)示例。最后强调了开源工具的价值,鼓励用户反馈和改进。
856 1

热门文章

最新文章