开发者社区 > ModelScope模型即服务 > 正文

ModelScope使用swift deploy进行部署,但是提示要添加--model_type?

"使用awq量化了qwen1.8,得到qwen-1_8b-chat-awq-int4,ModelScope使用swift deploy进行部署,但是提示要添加--model_type,但是model type里面貌似没有这个qwen-1_8b-chat-awq-int4,请问如何解决呢? 9450325f8e8d722d9da64e510c5b3ea0.png 如果单独设置model_id_and_path会出现 e9e446f69de5e90c2bdec3f4a7c986ea.png

"

展开
收起
小小爱吃香菜 2024-07-09 08:06:49 21 0
1 条回答
写回答
取消 提交回答

ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352

相关电子书

更多
OpenStack Swift 海量小文件优化之路 立即下载
From Java/Android to Swift iOS 立即下载
Swift在Airbnb的应用实践 立即下载