Agent的“iPhone”时刻
Openai DEV day上推出了GPT Stores, 允许用户通过聊天、直接配置的方式进行GPT的定制,可以允许用户自定义知识库以及接入web-browsing、文生图、code-interpreter三个工具的能力。通过简化的操作,可以让更多爱好AI的人来构建GPT的生态,而不需要进行具体的代码开发。
开源版Agent架构:ModelScope Agents
开发者的持续反馈展现了GPT Store存在如下待优化点:
- 黑盒化,开发者难以控制里面的细节,进行二次开发;
- 工具的调用只能支持openapi的接入,定制化成本略高;
- 数据安全隐私问题,个人知识库必须上传,并且目前存在泄露的问题;
- 只能使用openai的模型,大量的token消耗,成本很高。
基于上述,我们希望提供开源的实现方案为开源社区的用户提供类似的应用构建体验,同时方便用户能够接入不同的LLM,方便用户定制; 此外,希望借助这样一个应用层中间件,去衔接ModelScope模型生态和应用生态,促进应用生态的繁荣。
ModelScope Agents的特点和优势如下:
1. 开源开放:所有功能代码完全开源,支持用户定制和二次开发;
2. 支持多种LLM Agent:方便用户对比切换Agent,选择最适合自己场景且性价比最高的llm;
3. 支持finetune:prompt方式定制Agent效果上存在一定瓶颈,我们也提供了专业的agent finetune定制方案和Agent finetune数据集,方便用户在自己业务场景定制自己的Agent。
一张图说明ModelScope Agents
实践案例
colab链接:
notebook链接:
https://github.com/modelscope/modelscope-agent/blob/master/demo/demo_modelscopegpt_agent.ipynb
Python环境
- Python >= 3.10 版本,建议优先使用3.10
使用方式
git clone https://github.com/modelscope/modelscope-agent.git # 安装modelscope-agent的基础依赖 pip3 install -r requirements.txt cd modelscope-agent/apps/agents # 安装apps的依赖 pip3 install -r requirements.txt # 建议使用通义千问2.0,效果更佳。DASHSCOPE_API_KEY的获取见阿里云灵积平台文档 https://help.aliyun.com/zh/dashscope/developer-reference/activate-dashscope-and-create-an-api-key?spm=a2c4g.11174283.0.0.fd643b401i1D0r export DASHSCOPE_API_KEY=XXXX python3 app.py
RPG游戏案例:金庸群侠传
搭建指引 ↓
游戏效果 ↓
搭建Instructions↓
你的指令是为我提供一个基于金庸武侠小说世界的在线RPG游戏体验。在这个游戏中,玩家将扮演金庸故事中的一个关键角色,游戏情景将基于他的小说。这个游戏的玩法是互动式的,并遵循以下特定格式:
<场景描述>:根据玩家的选择,故事情节将按照金庸小说的线索发展。你将描述角色所处的环境和情况。
<场景图片>:对于每个场景,你将创造一个概括该情况的图像。这些图像的风格将类似于1980年代RPG游戏对话的16:9宽屏比例。在这个步骤你需要调用画图工具。
<选择>:在每次互动中,你将为玩家提供三个行动选项,分别标为A、B、C,以及第四个选项“D: 输入玩家的选择”。故事情节将根据玩家选择的行动进展。如果一个选择不是直接来自小说,你将创造性地适应故事,最终引导它回归原始情节。
整个故事将围绕金庸小说中丰富而复杂的世界展开。每次互动必须包括<场景描述>、<场景图片>和<选择>。所有内容将以简体中文呈现。你的重点将仅仅放在提供场景描述,场景图片和选择上,不包含其他游戏指导。
<更多精彩案例>
https://gw.alicdn.com/imgextra/i1/O1CN011TXRVy1ZBxHMpMvST_!!6000000003157-0-tps-1171-13909.jpg
(本次案例调用LLM为通义千问2.0,关注 https://github.com/QwenLM 了解千问最新开源动向)
欢迎共建开源开放的Agent社区
RoadMap
√ 支持人工配置构建智能体
√ 基于llm对话构建智能体
○ 生产级别功能支持,如详细的token消耗统计,运行时间,日志分析等
○ 有效的评估方式,为用户迭代模型提供高效反馈链路,不断提升效果
○ 支持在modelscope创空间上使用
○ 知识库检索效果优化
○ 支持智能体发布和分享
○ 支持ChatGLM,百川等开源模型和商业API
○ 处理长文本输入到内存
○ 生产级支持:日志和性能分析
○ 支持智能体微调
○ 在不同场景中智能体的效果评估
(√ 已完成 ○ 待完成)
我们欢迎开发者一起来共建,也欢迎大家提出各种新的需求, 具体可以在ModelScope github提issue或者加入微信群联系我们。
我们的github地址:https://github.com/modelscope/modelscope-agent
欢迎对Agent生态感兴趣的开发者小伙伴们加入微信群
点击直达modelscope-agent开源地址: