想请问下，机器学习PAI如何可以充分利用eas 上GPU资源？
想请问下，机器学习PAI如何可以充分利用eas 上GPU资源？现在才20%左右，显存才15%，但是如果再升高QPS的话，rt就会变大，而且报错499就上来了
展开
收起
1
条回答
写回答
写回答
-
这个是跟模型相关的，一般需要优化模型结构或选择效率更高的推理引擎。 https://help.aliyun.com/zh/pai/user-guide/inference-acceleration-blade/?spm=a2c4g.11186623.0.i3 可以参考下pai的推理优化引擎blade ，此回答整理自钉群“机器学习PAI交流群(答疑@值班)”
2024-05-22 19:16:39赞同 2 展开评论 打赏
相关产品：
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
热门讨论
热门文章
小白想问一下nas上面的模型怎么通过pai-eas进行使用
1351
如何高效的往交互建模（dsw）上传较大的文件，有从阿里云盘中直接下载或类似的方法吗？
3229
在机器学习PAI为什么有的空间看不到数据源：FeautureDB？
266
通义灵码 idea版本的代码提示如何设置？
410
机器学习PAI有没有pyalink 机器学习实战的开源项目？
267
在iTAG想用PAI实现根据我上传的文档生成我想要的问答对的这种功能可以实现吗？
262
为什么我的天池notebook中，无法创建notebook文件，也无法显示我的天池文档等内容。
463
通义千问 HTTP请求多轮对话的方式是什么格式的，文档里的没法实现，需要帮助，谢谢
504
请教下机器学习PAI 金融云的dataworkd可以调度公共云的pai DLC吗？
259
stable diffusion无法创建public url
1003
展开全部
视频生成框架EasyAnimate正式开源！
61821
【玩转数据系列二】机器学习应用没那么难，这次教你玩心脏病预测
26822
【玩转数据系列十五】机器学习PAI为你自动写歌词，妈妈再也不用担心我的freestyle了（提供数据、代码）
20015
【玩转数据系列六】文本分析算法实现新闻自动分类
18791
【玩转数据系列一】人口普查统计案例
15624
【玩转数据系列十三】机器学习算法基于信用卡消费记录做信用评分
14330
实践！如何用阿里云的机器学习得出泰坦尼克号沉船事件中谁有更大的概率获救
13873
阿里大航杯AI电力大赛比赛分享及数加平台，机器学习pai使用经验
10585
基于协同过滤算法的推荐
9834
FM算法介绍
11478
展开全部
