在ModelScope中,之前支持了大模型的量化训练,这个训练好后的模型也是量化存储的吗?

在ModelScope中,之前支持了大模型的量化训练,这个训练好后的模型也是量化存储的吗?

展开
收起
LLLA 2023-09-19 21:42:08 93 分享 版权
1 条回答
写回答
取消 提交回答
  • qlora是原模型是量化的, lora部分参数是非量化的. 存储只存增量的lora权重的。此回答来自“魔搭ModelScope开发者联盟群 ①”

    2023-09-19 23:06:06
    赞同 展开评论

包含图像分类、图像生成、人体人脸识别、动作识别、目标分割、视频生成、卡通画、视觉评价、三维视觉等多个领域

热门讨论

热门文章

还有其他疑问?
咨询AI助理