请问显存优化中的CPU训练可以和oss、sdp、fsdp这三种模型状态切分一起使用吗？
已解决请问显存优化中的CPU训练可以和oss、sdp、fsdp这三种模型状态切分一起使用吗？
展开
收起
2
条回答
写回答
写回答
-
今天也要加油吖~采纳回答您好，不可以。显存优化中的CPU训练只能和zero一起使用，不能和oss、sdp、fsdp这三种模型状态切分一起使用。
2023-01-27 14:54:27赞同 展开评论 打赏 -
CPU训练可以和OSS、SDP、FDP这三种模型状态切分一起使用。CPU训练可以帮助提高显存的利用率，减少显存的浪费，提高显存的性能。而OSS、SDP、FDP这三种模型状态切分可以帮助提高显存的利用率，减少显存的浪费，提高显存的性能。因此，这两种技术可以一起使用，以达到最佳的显存优化效果。
2023-01-27 12:29:38赞同 展开评论 打赏
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
人工智能平台 PAI（Platform for AI，原机器学习平台PAI）是面向开发者和企业的机器学习/深度学习工程平台，提供包含数据标注、模型构建、模型训练、模型部署、推理优化在内的AI开发全链路服务，内置140+种优化算法，具备丰富的行业场景插件，为用户提供低门槛、高性能的云原生AI工程化能力。
热门讨论
热门文章
P人出游，你是否需要一个懂你更懂规划的AI导游呢？来搭建专属文旅问答机器人吧
8588
AI生成海报or人工手绘，哪个更戳你？
2728
为什么我的天池notebook中，无法创建notebook文件，也无法显示我的天池文档等内容。
1167
在api调用夸克搜索时，遇到权限不足问题
485
机器学习PAI有没有类似colab这种免费的在线Notebook代码编辑运行环境啊？
551
AUC 为何越训练越低？DSSM 中这个有用吗？只有user 和item 塔可以去掉这个么？
773
为什么我的DSW，文件区没有显示我的notebook内容，也没有显示我的天池文档等部分
553
通义灵码 idea版本的代码提示如何设置？
914
灵积平台上，用通义千问的开源大模型接口响应非常慢
299
无法类似openai 使用api(chatbox)
33
展开全部
【玩转数据系列五】农业贷款发放预测
11548
数据科学老司机在线开车系列: 如何自己训练一个热狗识别模型
3219
利用PAI-DSW访问Github, 快速获取最新的学习资源
4577
农业贷款预测
1445
农业贷款预测的回归算法实现_0
1198
CTR_GBDT_LR
824
[python 技巧] 快速掌握Streamlit: python快速原型开发工具
119
面向医疗场景的大模型 RAG 检索增强解决方案
102
DistilQwen2：通义千问大模型的知识蒸馏实践
642
Qwen2.5-Coder 系列模型在 PAI-QuickStart 的训练、评测、压缩及部署实践
450
展开全部
