开发者社区 > ModelScope模型即服务 > 计算机视觉 > 正文

在离线部署ModelScope Agent时,是否支持配置使其用本地的模型API接口?

在离线部署ModelScope Agent时,是否支持配置使其用本地的模型API接口?

展开
收起
小小爱吃香菜 2024-01-09 19:57:12 235 0
2 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    离线化部署ModelScope Agent并使用本地模型api接口是可行的。首先,你需要在modelscope社区创建一个自己的空间,例如命名为LocalAgent。然后,将此空间克隆到本地环境或云服务器,如魔搭Notebook。

    接下来,安装必要的依赖项,你可以运行pip install -r requirements.txt命令来安装所需的库文件。注意,本地目录里的requirement.txt依赖可能会缺少一些内容,这通常是因为源自apps/agentfabric的部分没有被包含在内,所以需要将从modelscope-agent的requirement.txt文件中的内容复制过来。

    为了调用本地模型api接口,你可以在modelscope_agent/tools目录下新建一个py文件,以艺术字生成api为例,比如命名为wordart_tool.py。然后编辑这个新创建的文件,根据你本地模型api接口的实际情况进行配置。

    2024-01-13 19:33:31
    赞同 展开评论 打赏
  • 模型可以在本地跑,离线没使用过,您试下https://github.com/modelscope/modelscope-agent/blob/master/demo/demo_qwen_agent.ipynb 此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    2024-01-09 23:14:06
    赞同 展开评论 打赏

包含图像分类、图像生成、人体人脸识别、动作识别、目标分割、视频生成、卡通画、视觉评价、三维视觉等多个领域

相关电子书

更多
Spring Boot2.0实战Redis分布式缓存 立即下载
CUDA MATH API 立即下载
API PLAYBOOK 立即下载