机器学习PAI现在带有all reduce 的算子是trace不出来的？结果会错？有办法绕过去吗？
机器学习PAI现在带有all reduce 的算子是trace不出来的，结果会错，有办法绕过去吗？ 如果只想融合下算子 ，除了aot autograd，还有其他方式吗？
展开
收起
1
条回答
写回答
写回答
-
如果是只是想测下 fusion，直接用就可以了，dynamo 在 trace 的时候会 break 掉 collective ops。 但社区已经在解决这个问题了，比如这个 RFC：https://github.com/pytorch/pytorch/issues/93173 ，以及这个 unit test：https://github.com/pytorch/pytorch/blob/main/test/distributed/test_inductor_collectives.py 。 ，此回答整理自钉群“BladeDISC用户支持群”
2023-12-25 08:05:24赞同 展开评论 打赏
问答分类：
相关产品：
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
人工智能平台 PAI（Platform for AI，原机器学习平台PAI）是面向开发者和企业的机器学习/深度学习工程平台，提供包含数据标注、模型构建、模型训练、模型部署、推理优化在内的AI开发全链路服务，内置140+种优化算法，具备丰富的行业场景插件，为用户提供低门槛、高性能的云原生AI工程化能力。
热门讨论
热门文章
为什么我的天池notebook中，无法创建notebook文件，也无法显示我的天池文档等内容。
952
PAI做了线性回归的模型，预测结果后，回归模型评估的节点，结果R2的值是负的，我理解R2的取值范围?
384
在api调用夸克搜索时，遇到权限不足问题
330
为什么 PAI DSW中一直无法使用GPU加速tensorflow，如何使用GPU加速.
275
灵积平台上，用通义千问的开源大模型接口响应非常慢
212
机器学习PAI的alink任务在本地运行好好的，上传到flink web运行就报这个错误。怎么解决？
267
通义灵码 idea版本的代码提示如何设置？
820
训练的模型可以离线使用吗？没看到这方面的文档
545
P人出游，你是否需要一个懂你更懂规划的AI导游呢？来搭建专属文旅问答机器人吧
1754
机器学习PAI英伟达这个v100和4090哪个强？做comfyui生视频用
175
展开全部
【玩转数据系列九】机器学习为您解密雾霾形成原因
49081
【玩转数据系列十】利用阿里云机器学习在深度学习框架下实现智能图片分类
49597
【玩转数据系列一】人口普查统计案例
16341
【玩转数据系列十三】机器学习算法基于信用卡消费记录做信用评分
15007
【玩转数据系列四】听说啤酒和尿布很配？本期教你用协同过滤做推荐
14745
【玩转数据系列十二】PAI平台深度学习Caffe框架实现图像分类的模型训练
10531
【玩转数据系列十六】机器学习PAI通过声音分辨男女（含语音特征提取相关数据和代码）
8188
推荐系统之冷启动问题
5722
5块钱低成本阿里云大数据生态协同过滤推荐系统实战
5232
【玩转数据系列十七】机器学习实现双十一购物清单的自动商品标签归类
3885
展开全部
