机器学习PAI把BatchMatmulV2 fallback到tf发现性能好了不少。但是使用的？
机器学习PAI把BatchMatmulV2 fallback到tf发现性能好了不少。但是使用的gpu显存多了很多，可能是哪方面导致的？大家有遇到过的吗？
展开
收起
1
条回答
写回答
写回答
-
BatchMatmulV2 fallback 到 tf 可能会导致 GPU 显存使用增加，因为 BatchMatmulV2 是基于 TensorFlow 提供的 API 实现的，而 tf 的算法可能需要更多的显存。
你可以尝试使用 TensorFlow 提供的 profiler 来分析一下具体的显存使用情况。您也可以尝试使用 TensorFlow 自带的图优化功能来优化图的结构，以减少显存使用。
2023-09-26 10:40:53赞同 展开评论 打赏
问答分类：
相关产品：
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
人工智能平台 PAI（Platform for AI，原机器学习平台PAI）是面向开发者和企业的机器学习/深度学习工程平台，提供包含数据标注、模型构建、模型训练、模型部署、推理优化在内的AI开发全链路服务，内置140+种优化算法，具备丰富的行业场景插件，为用户提供低门槛、高性能的云原生AI工程化能力。
热门讨论
热门文章
为什么我的天池notebook中，无法创建notebook文件，也无法显示我的天池文档等内容。
951
PAI做了线性回归的模型，预测结果后，回归模型评估的节点，结果R2的值是负的，我理解R2的取值范围?
384
在api调用夸克搜索时，遇到权限不足问题
330
为什么 PAI DSW中一直无法使用GPU加速tensorflow，如何使用GPU加速.
275
灵积平台上，用通义千问的开源大模型接口响应非常慢
212
机器学习PAI的alink任务在本地运行好好的，上传到flink web运行就报这个错误。怎么解决？
267
通义灵码 idea版本的代码提示如何设置？
820
P人出游，你是否需要一个懂你更懂规划的AI导游呢？来搭建专属文旅问答机器人吧
1754
训练的模型可以离线使用吗？没看到这方面的文档
544
AUC 为何越训练越低？DSSM 中这个有用吗？只有user 和item 塔可以去掉这个么？
690
展开全部
【玩转数据系列九】机器学习为您解密雾霾形成原因
49081
【玩转数据系列十】利用阿里云机器学习在深度学习框架下实现智能图片分类
49597
【玩转数据系列一】人口普查统计案例
16341
【玩转数据系列十三】机器学习算法基于信用卡消费记录做信用评分
15007
【玩转数据系列十二】PAI平台深度学习Caffe框架实现图像分类的模型训练
10531
推荐系统之冷启动问题
5720
5块钱低成本阿里云大数据生态协同过滤推荐系统实战
5232
【玩转数据系列十七】机器学习实现双十一购物清单的自动商品标签归类
3885
推荐系统之业务架构总览
4111
天猫精灵业务如何使用机器学习PAI进行模型推理优化
4734
展开全部
