ModelScope这个类里面每个模型的这个列表是根据什么去定义的？
ModelScope这个类里面每个模型的这个列表是根据什么去定义的？
展开
收起
1
条回答
写回答
写回答
-
效果和显存/保存checkpoint的大小的trade off叭
效果: ['ALL'] (优) > [K, Q, V, O], [K, Q, V] (默认设置), [Q, V], [Q]
显存依次降低, 保存的ckpt大小依次降低.，此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”2023-10-24 21:48:12赞同 展开评论 打赏
相关问答
热门讨论
热门文章
com/action/joingroup?code=v1是什么意思
3182
ModelScope中，模型下载默认路径在哪个路径？
2403
ModelScope 使用14B模型推理时报这个错误？
811
我希望通过damo-YOLO训练1500*1500的图片
6851
Qwen-turbo和Qwen-14B-chat 微调区别
434
streamlit 生成链接无法访问，gradio只生成内网，无法生成公网
1601
服务器上onnxruntime-gpu 调用结束，如何释放显存
3155
ModelScope中，请问Qwen-14B-Chat-Int4运行最少需要多少内存？
1196
ModelScope中，大佬们4卡跑lora时，遇到这样的错，怎么解决？
900
Modelscope魔塔的创空间的文件怎么下载到本地呀？
3109
展开全部
