目前的情况是购买了一个99r的ecs实例（2h2g3m，包年包月）
理想的方式是用现有的ecs实例作为桥梁，调用通义百炼/千问的api，这样一年内仅需支付99r+调用次数的费用（每张图0.16/每千t 0.1-0.2左右），ModelScope如何部署成webui界面，方便交互？
如果按文档用魔搭，痛点就在于，魔搭和大模型得部署在本地或云端魔搭环境中，前者需要购买好的显卡，后者需要租gpu实例（a10最低都要10r一小时），gpu实例包月最低3000+起。
想有一个webui的网页界面交互，服务器作为桥梁连接通义千问/百炼。因为如果是偶尔使用，这样费用是最低的。（主观理解api调用的通义大模型的配置肯定不会低，速度应该比a10快）
ModelScope旨在打造下一代开源的模型即服务共享平台，为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品，让模型应用更简单！欢迎加入技术交流群：微信公众号：魔搭ModelScope社区，钉钉群号：44837352
评论
全部评论 (0)