ModelScope运行finetune脚本的时候会默认使用 flash-attn 加速吗?

关于ModelScope微调时可以加速的问题,我三张显卡 flash-attn 安装好了,想问运行finetune脚本的时候会默认使用 flash-attn 加速吗?另外Qwen/finetune/finetune_lora_ds.sh 这个脚本 是哪个参数呢?

展开
收起
陈幕白 2023-12-26 23:44:34 91 分享 版权
1 条回答
写回答
取消 提交回答

包含图像分类、图像生成、人体人脸识别、动作识别、目标分割、视频生成、卡通画、视觉评价、三维视觉等多个领域

热门讨论

热门文章

还有其他疑问?
咨询AI助理