AI 助理
备案控制台
开发者社区 大数据与机器学习 人工智能平台PAI 正文

想请问下，机器学习PAI如何可以充分利用eas 上GPU资源？

想请问下，机器学习PAI如何可以充分利用eas 上GPU资源？现在才20%左右，显存才15%，但是如果再升高QPS的话，rt就会变大，而且报错499就上来了

展开
收起
夹心789 2024-05-22 09:27:03 104 分享 版权

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
问答分类：
机器学习/深度学习 异构计算 GPU云服务器
问答标签：
GPU云服务器资源 人工智能平台 PAI gpu 人工智能平台 PAI eas 人工智能平台 PAI资源 机器学习GPU云服务器
问答地址：
开发者社区 > 大数据与机器学习 > 人工智能平台PAI > 问答
相关问答
人工智能平台PAI
在机器学习PAI中，请问eas的a服务调用b服务，两个服务在两个不同资源组，会增大网络传输开销吗?
99
3
0
在阿里云PAI-DSW完成微调的大模型，通过EAS部署为AI-web应用，如何开放为公网web应用
180
1
0
求助，人工智能平台 PAI-DSW运行模型时，找不到 GPU
127
0
0
机器学习PAI这个eas的服务，虽然运行起来了，但是打印出这个，这个是有的问题吗？
41
1
0
机器学习PAI报错的代码没有配 gpu，把 gpu 设为 0 就行？
71
0
0
机器学习PAI在 Pai 上做向量检索的时候报了这个错，但是我的脚本并没有 gpu 相关的配置链接？
58
1
0
机器学习PAI这边北京训练的模型使用了北京的镜像，现在要部署到张家口的EAS，拉取不到跟北京一样的镜
49
1
0
GPU资源如何计费？如果不调用，会产生费用吗？
191
1
0
HybridBackend是如何解决GPU资源利用不充分的问题的？
39
1
0
机器学习PAI现在使用EAS在更新模型的时候，看起来服务是不可用的，有没有什么方法保持服务可用？
68
1
0
大数据与机器学习

人工智能平台PAI

人工智能平台 PAI（Platform for AI，原机器学习平台PAI）是面向开发者和企业的机器学习/深度学习工程平台，提供包含数据标注、模型构建、模型训练、模型部署、推理优化在内的AI开发全链路服务，内置140+种优化算法，具备丰富的行业场景插件，为用户提供低门槛、高性能的云原生AI工程化能力。

我要提问

相关文章

  • 几周速通大模型实习，你需要做什么？
  • 犬鼻纹识别是如何做到的？附代码示例
  • AI的万亿商机：红杉资本眼中的人工智能新时代
  • 深入解析torch.compile：提升PyTorch模型性能、高效解决常见问题
  • 从多维度解构 Lead Time：定义、应用与优化策略

    • 热门讨论

    热门文章

  • 请问如何在微软的Autogen 0.4框架下使用Qwen模型实现工具调用？
  • paraformer问题
  • 我在Java里使用langchain4j，搭建本地的RAG。
  • 在api调用夸克搜索时，遇到权限不足问题
  • 通义万相-涂鸦作画 Http调用方式无法使用？
  • 通义灵码 idea版本的代码提示如何设置？
  • P人出游，你是否需要一个懂你更懂规划的AI导游呢？来搭建专属文旅问答机器人吧
  • AI生成海报or人工手绘，哪个更戳你？
  • 百炼平台的API总是报错没有权限。
  • 机器学习PAI有没有类似colab这种免费的在线Notebook代码编辑运行环境啊？
    • 展开全部
  • 【玩转数据系列九】机器学习为您解密雾霾形成原因
  • 【玩转数据系列十六】机器学习PAI通过声音分辨男女（含语音特征提取相关数据和代码）
  • 大规模深度学习优化技术在PAI平台中的应用及实践
  • 推荐系统之冷启动问题
  • 协同过滤做商品推荐
  • 人民的名义分析
  • test_etrec
  • 【推荐算法】商品推荐_1450
  • 【推荐算法】商品推荐_2587
  • 【新手必看】PyCharm2025 免费下载安装配置教程+Python环境搭建、图文并茂全副武装学起来才嗖嗖的快,绝对最详细!
    • 展开全部
    还有其他疑问?
    咨询AI助理