开发者社区 > ModelScope模型即服务 > 正文

ModelScope如何部署成webui界面,方便交互?

目前的情况是购买了一个99r的ecs实例(2h2g3m,包年包月)

理想的方式是用现有的ecs实例作为桥梁,调用通义百炼/千问的api,这样一年内仅需支付99r+调用次数的费用(每张图0.16/每千t 0.1-0.2左右),ModelScope如何部署成webui界面,方便交互?

如果按文档用魔搭,痛点就在于,魔搭和大模型得部署在本地或云端魔搭环境中,前者需要购买好的显卡,后者需要租gpu实例(a10最低都要10r一小时),gpu实例包月最低3000+起。

想有一个webui的网页界面交互,服务器作为桥梁连接通义千问/百炼。因为如果是偶尔使用,这样费用是最低的。(主观理解api调用的通义大模型的配置肯定不会低,速度应该比a10快)

展开
收起
小小爱吃香菜 2024-07-17 08:25:26 46 0
1 条回答
写回答
取消 提交回答
  • 创空间有调用dashscope api的例子,您参考一下。此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    2024-07-23 15:37:01
    赞同 展开评论 打赏

ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352

相关电子书

更多
视觉AI能力的开放现状及ModelScope实战 立即下载
ModelScope助力语音AI模型创新与应用 立即下载
低代码开发师(初级)实战教程 立即下载