AI 助理
备案控制台
开发者社区 通义大模型 文章 正文

使用 Qwen 进行Self-instruct数据生成

2024-12-31 532
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
本文涉及的产品
多模态交互后付费免费试用，全链路、全Agent
简介： 使用Qwen进行自指令数据生成，通过Self-instruct技术自动化为大型语言模型生成指令。用户可安装CAMEL包并设置Qwen API密钥，配置ChatAgent和SelfInstructPipeline，基于种子指令迭代生成大量新指令。支持多种过滤器（如长度、关键词、标点符号等）确保生成指令的质量和多样性。欢迎加入Discord获取支持与交流。

使用 Qwen 进行自指令数据生成

本cookbook在线运行链接：
https://colab.research.google.com/drive/1tNRrC3u6TjdHz_vG3VicYz6Q7DV_E1cq?usp=sharing

⭐ 为代码库点赞

如果你觉得 CAMEL 很有用或有趣，请考虑在我们的 CAMEL 仓库为我们点赞！你的点赞能帮助更多人发现这个项目，并激励我们持续改进。

Self-instruct是一种为大型语言模型（LLMs）自动生成指令的技术。手动创建这些数据集可能既耗时又昂贵。Self-instruct提供了一种自动化这个过程的方法，可以快速高效地生成大量指令。

安装和设置

首先，安装 CAMEL 包及其所有依赖

!pip install "git+https://github.com/camel-ai/camel.git@master#egg=camel-ai[all]"

如果您尚未拥有 Qwen API 密钥，可以按照以下步骤获取：

访问 阿里云模型工作室控制台，并按照屏幕上的说明激活模型服务。
在控制台右上角，点击您的账户名称，然后选择 API-KEY。
在 API 密钥管理页面，点击 创建 API 密钥 按钮以生成新的密钥。

import os
from getpass import getpass

qwen_api_key = getpass('输入你的 Qwen API 密钥: ')
os.environ["QWEN_API_KEY"] = qwen_api_key

输入你的 Qwen API 密钥: ··········

from camel.configs import QwenConfig
from camel.models import ModelFactory
from camel.types import ModelPlatformType, ModelType
from camel.agents import ChatAgent
from camel.messages import BaseMessage

qwen_model = ModelFactory.create(
    model_platform=ModelPlatformType.QWEN,
    model_type=ModelType.QWEN_TURBO,
    model_config_dict=QwenConfig(temperature=0.2).as_dict(),
)

基础Agent设置

from camel.agents import ChatAgent
from camel.datagen.self_instruct import SelfInstructPipeline

agent = ChatAgent(
    model=qwen_model,
)

基础Pipeline设置

该Pipeline通过从一小组种子（人工编写）指令开始工作，然后使用 LLM 基于这些种子生成新的指令。

  • 种子指令通常存储在 JSON Lines (JSONL) 文件中。文件中的每一行都代表 JSON 格式的单个指令。

  • 与种子文件一样，输出也以 JSONL 格式存储，便于解析和用于进一步的任务，如训练或微调语言模型。

请将 seed_path 替换为你的种子文件路径，将 data_output_path 替换为你想要的输出位置。

import os
import requests

# 为本地数据创建目录
os.makedirs('local_data', exist_ok=True)

# 更新为原始文件内容的 URL
url = "https://raw.githubusercontent.com/camel-ai/camel/master/examples/synthetic_datagen/self_instruct/seed_tasks.jsonl"

# 获取原始文件
response = requests.get(url)

with open('local_data/seed_tasks.jsonl', 'wb') as file:
    file.write(response.content)

seed_path = 'local_data/seed_tasks.jsonl'
data_output_path = 'data_output.json'

Self-instruct以迭代方式工作。在每一轮中：

  1. 从 seed_path 中选择一定数量的人工编写指令（num_human_sample）。
  2. 从之前的轮次中选择一定数量的机器生成指令（num_machine_sample）。
  3. 使用这些选定的指令来指导语言模型生成新的指令。
  4. 这些新指令被添加到机器生成指令池中，然后重复这个过程，直到生成所需数量的指令。

human_to_machine_ratio 帮助控制整个过程中人工指导和模型创造力之间的平衡。通过调整这个比率，你可以影响生成指令的质量和多样性。

你可以自由调整 num_human_sample 和 num_machine_sample，这两个值稍后都将传入 human_to_machine_ratio

num_human_sample = 6
num_machine_sample = 2

请将 target_num_instructions 替换为你想要生成的机器指令数量

target_num_instructions = 10

将所有内容传递给我们的流水线。

pipeline = SelfInstructPipeline(
    agent=agent,
    seed=seed_path,
    num_machine_instructions=target_num_instructions,
    data_output_path=data_output_path,
    human_to_machine_ratio=(num_human_sample, num_machine_sample),
)

尝试生成！你将看到生成的数据文件被创建在你指定的位置！

pipeline.generate()

过滤函数

新生成的指令在被添加到结果中之前会经过过滤和评估。只有符合预定标准的指令才会被包含。CAMEL 提供了一些可以在Self-instruct中使用的过滤函数。此外，我们还支持自定义过滤器以进行定制评估！过滤函数在指令有效时返回 True，否则返回 False。

长度过滤器

LengthFilter 过滤掉所有长度小于 min_len 或大于 max_len 的指令。

from camel.datagen.self_instruct import LengthFilter

length_filter = LengthFilter(min_len=5, max_len=50)

instructions = [
    "按升序排列数字。",
    "计算总和。",
    "创建一个详细说明每月支出和储蓄的电子表格报告。"
]

filtered_instructions = [instr for instr in instructions if length_filter.apply(instr)]
print(filtered_instructions)

['按升序排列数字。', '创建一个详细说明每月支出和储蓄的电子表格报告。']

关键词过滤器

KeywordFilter 过滤包含特定不需要关键词的指令。

from camel.datagen.self_instruct import KeywordFilter

keyword_filter = KeywordFilter(keywords=["禁止", "禁用", "禁令"])

instructions = [
    "禁止使用塑料袋。",
    "鼓励回收计划。",
    "禁止在公共场所吸烟。"
]

filtered_instructions = [instr for instr in instructions if keyword_filter.apply(instr)]
print(filtered_instructions)

['鼓励回收计划。']

标点符号过滤器

PunctuationFilter 过滤以非字母数字字符开头的指令。

from camel.datagen.self_instruct import PunctuationFilter

punctuation_filter = PunctuationFilter()

instructions = [
    "按类别对数据进行排序。",
    "#分析随时间变化的趋势。",
    "*创建结果摘要。"
]

filtered_instructions = [instr for instr in instructions if punctuation_filter.apply(instr)]
print(filtered_instructions)

['按类别对数据进行排序。']

非英语过滤器

NonEnglishFilter 过滤不以英文字母开头的指令。

from camel.datagen.self_instruct import NonEnglishFilter

non_english_filter = NonEnglishFilter()

instructions = [
    "Analyze the performance metrics.",
    "计算结果的统计数据.",
    "Test the new algorithm."
]

filtered_instructions = [instr for instr in instructions if non_english_filter.apply(instr)]
print(filtered_instructions)

['Analyze the performance metrics.', 'Test the new algorithm.']

ROUGE 相似度过滤器

RougeSimilarityFilter 基于 ROUGE 分数过滤与现有指令过于相似的指令。

from camel.datagen.self_instruct import RougeSimilarityFilter

existing_instructions = [
    "总结这篇文章。",
    "写一个文本的简要概述。"
]

similarity_filter = RougeSimilarityFilter(existing_instructions, threshold=0.5)

instructions = [
    "总结内容。",
    "为文本创建一个摘要。",
    "提供文本分析。"
]

filtered_instructions = [instr for instr in instructions if similarity_filter.apply(instr)]
print(filtered_instructions)

['为文本创建一个摘要。', '提供文本分析。']

自定义过滤函数

此外，你还可以实现自己的过滤函数。

from camel.datagen.self_instruct import FilterFunction

class CustomFilter(FilterFunction):

    def apply(self, instruction: str) -> bool:
        # 在这里应用你的逻辑
        logic = ...
        return logic

指令过滤器

InstructionFilter 管理所有过滤函数。我们可以使用自定义的 InstructionFilter 来初始化Pipeline。

首先添加你想要的过滤函数并配置它们。

filter_config = {
   
  "length": {
   "min_len": 5, "max_len": 100},
  "keyword": {
   "keywords": ["图片", "视频"]},
  "non_english": {
   },
  "rouge_similarity": {
   
      "existing_instructions": ["一些现有的指令"],
      "threshold": 0.6
  }
}

然后，初始化一个 InstructionFilter

from camel.datagen.self_instruct import InstructionFilter
filters = InstructionFilter(filter_config)

我们可以通过运行以下代码轻松应用所有过滤函数：

instructions = [
    "按升序排列数字。",
    "计算总和。",
    "创建一个详细说明每月支出和储蓄的电子表格报告。",
    "*创建结果摘要。",
    "计算结果的统计数据。"
]

filtered_instructions = [instr for instr in instructions if filters.filter(instr)]
print(filtered_instructions)

['按升序排列数字。', '创建一个详细说明每月支出和储蓄的电子表格报告。']

使用自定义 InstructionFilter 设置流水线

CAMEL 在流水线中有一些默认的过滤函数，但你也可以选择自己的！

pipeline = SelfInstructPipeline(
    agent=agent,
    seed=seed_path,
    num_machine_instructions=target_num_instructions,
    data_output_path='data_output_path',
    human_to_machine_ratio=(num_human_sample, num_machine_sample),
    instruction_filter=filters,    # 传入你的 InstructionFilter
)

或者如果你想使用默认的函数过滤器，但使用不同的配置，你也可以只传入过滤器配置

最后，开始生成！

pipeline.generate()

这就是全部内容：对 🐫 CAMEL-AI 有疑问？加入我们的 Discord！无论你是想分享反馈、探索多智能体系统的最新进展、获取支持，还是与其他人在激动人心的项目上建立联系，我们都很欢迎你加入社区！🤝

查看我们的其他工作：

  1. 🐫 创建你的第一个 CAMEL 代理 免费 Colab

  2. Graph RAG 教程 免费 Colab

  3. 🧑‍⚖️ 使用 Workforce 创建黑客马拉松评委委员会 免费 Colab

  4. 🔥 使用 Firecrawl 和 CAMEL 从网站获取数据的 3 种方法 免费 Colab

  5. 🦥 使用 CAMEL 和 Mistral 模型进行代理 SFT 数据生成，使用 Unsloth 进行微调 免费 Colab

来自 🐫 CAMEL-AI 团队的感谢





⭐ 在 Github 上给我们点星，加入我们的 Discord 或关注我们的 X ⭐
文章标签：
大模型服务平台百炼
API
数据格式
存储
JSON
安全
游客s67t3mdq4gcco
目录
相关文章
游客s67t3mdq4gcco
|
10月前
|
人工智能 JSON API
使用 Qwen 生成数据模型和进行结构化输出
本教程展示如何使用CAMEL框架和Qwen模型生成结构化数据。CAMEL是一个强大的多智能体框架，支持复杂的AI任务；Qwen由阿里云开发，具备自然语言处理等先进能力。教程涵盖安装、API密钥设置、定义Pydantic模型，并演示了通过Qwen生成JSON格式的学生信息。最后，介绍了如何利用Qwen生成多个随机学生信息的JSON格式数据。欢迎在[CAMEL GitHub](https://github.com/camel-ai/camel)上为项目点星支持。
游客s67t3mdq4gcco
3102 70
Asher_hss
|
10月前
|
存储 人工智能 自然语言处理
结合CAMEL框架与QWEN实现数据合成，奖励模型评估和数据过滤工作流
本笔记本展示了如何结合CAMEL框架与QWEN实现数据合成、奖励模型评估和数据过滤的工作流。通过CAMEL的多代理系统，支持复杂AI任务的数据生成与评估。我们使用Firecrawl加载器从网页获取内容，并利用NVIDIA的Nemotron奖励模型对生成的数据进行评分和过滤。最后，通过设定阈值筛选高质量的数据条目。整个过程包括安装依赖、输入API密钥、定义数据生成函数、评估生成数据的质量以及过滤低质量数据。此方法适用于需要评估和优化AI生成内容的各种场景。
Asher_hss
304 31
结合CAMEL框架与QWEN实现数据合成，奖励模型评估和数据过滤工作流
正经人王同学
|
10月前
|
JSON 人工智能 自然语言处理
小模型也能有类o1的慢思考能力？使用CAMEL生成CoT数据、Unsloth微调Qwen2.5-1.5B模型并上传至Hugging Face
本项目利用CAMEL生成高质量的CoT数据，结合Unsloth对Qwen2.5-1.5B模型进行微调，并将结果上传至Hugging Face。通过详细步骤介绍从数据生成到模型微调的完整流程，涵盖环境配置、API密钥设置、ChatAgent配置、问答数据生成与验证、数据转换保存、模型微调及推理保存等内容。最终展示了如何优化问答系统并分享实用技巧。 [CAMEL-AI](https://github.com/camel-ai/camel) 是一个开源社区，致力于智能体扩展研究。欢迎在GitHub上关注并加入我们！
正经人王同学
1115 15
香菜香菜我是折耳根
|
10月前
|
人工智能 自然语言处理 算法
基于Qwen的法律领域问答方案（Agent+代码生成）
第三届琶洲算法大赛由广州市政府与中国人工智能学会联合主办，聚焦AI大模型和AIGC热点，吸引超5000支队伍参赛。本文提出基于Qwen的Agent+代码生成方案，通过问题重写、命名实体识别、意图识别等步骤，实现法律问题解答、案件信息查询等功能，支持自定义接口以满足不同查询需求。方案利用大语言模型的语义理解和函数调用功能，确保答案可控生成，并已发布于Qwen-Article仓库。
香菜香菜我是折耳根
363 68
游客s67t3mdq4gcco
|
10月前
|
存储 人工智能 API
使用CAMEL框架和Qwen模型自动进行数据获取及报告与知识图谱生成
此笔记本演示如何设置和利用 CAMEL 的检索增强生成（RAG）结合 Milvus 进行高效的网页抓取、多智能体角色扮演任务和知识图谱构建。我们将通过一个使用 Qwen 模型对 2024 年巴黎奥运会的土耳其射手进行全面研究的例子来逐步演示。
游客s67t3mdq4gcco
666 14
正经人王同学
|
10月前
|
自然语言处理 物联网 API
使用CAMEL和Unsloth进行数据生成与Qwen模型微调
本项目结合CAMEL和Unsloth，生成高质量训练数据并对Qwen 7B模型进行微调，提升其在特定内容上的理解和生成能力。我们使用CAMEL生成指令-输入-输出三元组数据，并通过Unsloth的LoRA技术加速微调过程。详细步骤包括环境准备、API密钥设置、模型加载与配置、数据生成与保存、模型训练及推理。最终，微调后的Qwen 7B模型能更好地处理CAMEL社区相关文本。 更多详情请参考： - [CAMEL GitHub](https://github.com/camel-ai/camel)
正经人王同学
776 5
edisonleejt
|
10月前
|
机器学习/深度学习 数据采集 人工智能
基于Qwen 2.5的世界科学智能大赛冠军方案
本方案基于通义千问模型，采用多阶段的Easy-to-Hard数据合成方法，模拟人类学习的由简单到困难的思路，逐阶段构造多样化的训练数据。数据生成阶段，训练数据的标签，引入了“Chain-of-Thought”思维链模式，生成多样化的推理路径，逐步对齐推理Scaling Law。训练阶段，采用了LoRA对通义千问32B模型在合成数据集上进行参数高效微调。推理阶段，使用了4bit低精度量化，并结合vLLM框架进行推理加速，最终达到准确性、效率和显存利用率的统一。
edisonleejt
584 2
基于Qwen 2.5的世界科学智能大赛冠军方案
WhaleEye
|
10月前
|
安全 API 决策智能
Workforce 应用示例：黑客松评审团
本文展示了使用CAMEL多智能体系统的Workforce模块创建一个黑客松评审团，通过多个性格各异的智能体协作，对项目进行评审。系统设置了具备不同人格和评审标准的智能体，如注重技术细节的工程师和追求创新的创业者。 评审团对一个基于CAMEL-AI的个性化学习助手项目进行了评价，该项目致力于解决教育个性化不足的问题。智能体们一致认为项目技术扎实、创新性强，但部分功能尚待完善。 文章展示了Workforce模块在复杂任务处理中的高效性，并鼓励将该示例扩展到更多需要多样化视角的应用场景。
WhaleEye
369 11
不要葱姜蒜
|
10月前
|
搜索推荐 物联网 PyTorch
Qwen2.5-7B-Instruct Lora 微调
本教程介绍如何基于Transformers和PEFT框架对Qwen2.5-7B-Instruct模型进行LoRA微调。
不要葱姜蒜
10437 34
Qwen2.5-7B-Instruct Lora 微调
游客s67t3mdq4gcco
|
10月前
|
存储 自然语言处理 机器人
基于的Qwen模型的智能客服Discord机器人，使用🐫 CAMEL、SambaNova、Firecrawl和Qdrant实现RAG Agent
基于Qwen模型的智能客服Discord机器人，使用CAMEL、SambaNova、Firecrawl和Qdrant实现RAG Agent。构建了一个能够处理复杂问题并能进行快速响应的强大聊天机器人。该机器人可在Discord平台上运行，支持实时对话和语义搜索，提供准确、全面的回答。项目包含详细的安装步骤、代码示例及集成指南，适合开发者快速上手。
游客s67t3mdq4gcco
654 36