模型插件使用指南有没有？

模型插件使用指南

阿里云百炼大模型服务平台提供了丰富的插件功能，帮助用户扩展大模型的能力，解决实际应用中的复杂问题。以下是详细的插件使用指南，涵盖插件的定义、类型、创建与管理、调用机制以及注意事项。

一、插件概述

插件是工具的集合，每个插件下可以包含多个工具（API），每个工具实现特定的功能。通过集成插件，大模型能够克服其局限性，例如无法获取最新信息、易产生幻觉、难以精确计算等问题。

二、插件类型

1. 官方插件
   官方插件无需额外配置即可直接调用，适用于多种应用场景。常见官方插件包括：

   • Python代码解释器：支持执行Python代码片段，用于数学计算、数据分析等。
   • 计算器：支持复杂数学计算。
   • 图片生成：基于文本生成图片。
   • 夸克搜索：搜索实时信息。
   • 生成二维码：根据网站链接生成二维码。
   • GitHub搜索：在GitHub中搜索相关项目。

2. 三方插件
   第三方插件涵盖商业服务、图像视频、学习教育等多个领域，经过效果测试后可以直接调用，无需额外配置。

3. 自定义插件
   用户可以创建自定义插件，集成到大模型应用中，实现个性化功能扩展。自定义插件需要定义输入输出参数，并进行测试和发布。

三、插件的创建与管理

1. 创建自定义插件

   • 登录阿里云百炼平台，进入“应用组件”下的“自定义插件”页面，点击“新增自定义插件”。
   • 填写插件信息，包括插件名称、描述、URL、Header列表、鉴权类型等。
   • 创建完成后，选择“创建工具”或“继续添加工具”，并配置输入输出参数。
   • 测试工具后，点击“发布”使工具生效。

2. 从云市场导入插件

   • 在“应用组件”中选择“自定义插件”，点击“从云市场导入”。
   • 首次导入时需进行服务关联角色授权。
   • 进入云市场开通所需API，等待状态变为“已开通”。
   • 获取API的AppKey、AppSecret、AppCode等鉴权信息。
   • 导入API后，进行工具的测试和发布。

四、插件调用机制

1. 智能体应用或Assistant API

   • 根据用户输入内容、工具名称和工具描述判断是否调用插件下的工具。
   • 如果需要调用工具，大模型将选择合适的工具，完成调用后将结果与用户内容合并，再次输入到大模型生成最终结果。

2. 工作流应用

   • 将插件作为工作流应用的一个节点，按照用户编排的方式执行特定任务，而非由大模型主动规划和调用。

3. 调用方式

   • 方式一：在“工具列表”中将已发布的工具添加到智能体应用中。
   • 方式二：在“插件列表”中将插件下的工具添加到智能体应用中。
   • 方式三：在“我的应用”中将工具添加至智能体应用或工作流应用。
   • 方式四：通过API调用应用时，传递必要的鉴权信息或透传参数。
   • 方式五：通过Assistant API调用工具。

五、插件效果示例

• 示例输入：12313 × 13232等于多少？
  • 无插件时输出：大模型可能无法准确计算复杂数学问题，出现错误。
  • 有插件时输出：大模型具备良好的计算能力，能够生成准确的计算结果。

六、注意事项

1. 模型兼容性

   • 支持的模型包括通义千问-Turbo、通义千问-Plus、通义千问-Max等。
   • 注意：通义千问2开源版暂不兼容图片生成插件。

2. DeepSeek系列模型限制

   • DeepSeek系列模型暂不支持插件，包括“夸克搜索”在内的联网搜索插件目前无法使用。

3. 权限管理

   • 从云市场导入插件时，需确保RAM用户（子账号）拥有创建服务关联角色的权限。

4. 插件状态

   • 从云市场导入的插件为草稿状态，需测试、发布后才能使用。

通过上述步骤，您可以有效地管理和调用阿里云百炼平台的插件，提升大模型的应用范围和处理复杂任务的能力。