开发者社区 > 大数据与机器学习 > 人工智能平台PAI > 正文

机器学习PAI 1、求问-Dcluster参数设置建议,使用PAI命令行时,查看训练信息的路径?

机器学习PAI
1、求问-Dcluster参数设置建议,目前在测试案例数据的multiTower模型,PS节点一直是running状态,数据集链接【https://tianchi.aliyun.com/dataset/56】2、以及使用PAI命令行时,查看训练信息的路径![932401b461d06665916aed572a87c7a5.png](https://ucc.alicdn.com/pic/developer-ecology/wyvq5mjsckydw_f66018e92f044d6a96b1e515c88dd867.png)
目前参数配置'{"ps":{"count":1, "cpu":1000}, "worker" : {"count":3, "cpu":1000, "gpu":100, "memory":40000}}',是不是要的CPU太多,等不到资源?

展开
收起
cuicuicuic 2023-12-10 15:40:27 32 0
2 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。
    1. 对于DCluster参数设置建议,可以考虑以下几点:

      • 调整PS节点的CPU和内存资源,可以尝试减少CPU资源,例如将cpu从1000降低到500。
      • 调整Worker节点的GPU资源,可以尝试增加GPU数量,例如将gpu从100增加到200。
      • 调整Worker节点的内存资源,可以尝试增加内存大小,例如将memory从40000增加到80000。
      • 检查集群的网络状况,确保网络带宽足够支持模型训练。
    2. 在PAI命令行中查看训练信息,可以使用以下命令:

      $ aliyun ps logs --job-id <your_job_id>
      

      其中<your_job_id>需要替换为你的训练任务ID。

    2023-12-11 13:49:56
    赞同 展开评论 打赏
  • 就是和pai tensorflow一样的查看方式;之前一直等资源是因为我们集群gpu太少,等不到gpu资源导致 ,此回答整理自钉群“【EasyRec】推荐算法交流群”

    2023-12-11 13:06:06
    赞同 展开评论 打赏

相关电子书

更多
大规模机器学习在蚂蚁+阿里的应用 立即下载
基于Spark的面向十亿级别特征的 大规模机器学习 立即下载
基于Spark的大规模机器学习在微博的应用 立即下载