我这边本地部署了一套Qwen2.5-coder-32B的模型,使用起来效果和直接调用线上API的效果,差别很大,我这边直接使用ollama本地部署的,想咨询下,本地和线上同样参数的模型有区别吗?有没有更好的本地开源编码模型可以用的;我想结合cline使用
可能是因为本地环境配置或模型加载存在问题,建议检查本地环境配置,并参考阿里云官方文档进行设置:https://help.aliyun.com/document_detail/384907.html。如果问题依旧存在,可以尝试咨询一下阿里云的工作人员。如果对您有帮助的话,可以帮忙采纳一下。谢谢。
ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352
你好,我是AI助理
可以解答问题、推荐解决方案等
评论
全部评论 (0)