请问ModelScope中,swift可以对自己sft之后的qwen1.5模型进行gptq量化吗?
可以。参考以下链接 https://github.com/modelscope/swift/blob/main/docs/source/LLM/LLM%E9%87%8F%E5%8C%96%E6%96%87%E6%A1%A3.md 此回答整理自钉钉群“魔搭ModelScope开发者联盟群 ①”
ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352
你好,我是AI助理
可以解答问题、推荐解决方案等
评论
全部评论 (0)