正经人王同学_个人页

2024年12月

• 12.31 23:14:25
  发表了文章 2024-12-31 23:14:25

  小模型也能有类o1的慢思考能力？使用CAMEL生成CoT数据、Unsloth微调Qwen2.5-1.5B模型并上传至Hugging Face

  本项目利用CAMEL生成高质量的CoT数据，结合Unsloth对Qwen2.5-1.5B模型进行微调，并将结果上传至Hugging Face。通过详细步骤介绍从数据生成到模型微调的完整流程，涵盖环境配置、API密钥设置、ChatAgent配置、问答数据生成与验证、数据转换保存、模型微调及推理保存等内容。最终展示了如何优化问答系统并分享实用技巧。 [CAMEL-AI](https://github.com/camel-ai/camel) 是一个开源社区，致力于智能体扩展研究。欢迎在GitHub上关注并加入我们！
• 12.31 14:33:35
  发表了文章 2024-12-31 14:33:35

  使用CAMEL和Unsloth进行数据生成与Qwen模型微调

  本项目结合CAMEL和Unsloth，生成高质量训练数据并对Qwen 7B模型进行微调，提升其在特定内容上的理解和生成能力。我们使用CAMEL生成指令-输入-输出三元组数据，并通过Unsloth的LoRA技术加速微调过程。详细步骤包括环境准备、API密钥设置、模型加载与配置、数据生成与保存、模型训练及推理。最终，微调后的Qwen 7B模型能更好地处理CAMEL社区相关文本。 更多详情请参考： - [CAMEL GitHub](https://github.com/camel-ai/camel)