"主观理解魔搭提供的cpu镜像本质等同于ecs的cpu实例,ModelScope可以实现直接调用通义的api吗?
魔搭作为桥梁在其中部署好环境(Python或Java),通义模型作为服务器,然后通过web-ui界面进行交互。"
这里看起来您租了服务器。部署的话魔搭这边有完整的文档,很方便,api调用、web-ui界面交互都可以。参考以下链接
https://github.com/modelscope/swift/blob/main/docs/source/LLM/VLLM%E6%8E%A8%E7%90%86%E5%8A%A0%E9%80%9F%E4%B8%8E%E9%83%A8%E7%BD%B2.md
此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”
ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352