开发者社区 > 大数据与机器学习 > 人工智能平台PAI > 正文

机器学习PAI在easyrec里自定义了一些逻辑,pai上做分布式训练的时候如何让这个第三方包生效?

机器学习PAI在easyrec里自定义了一些逻辑,引用了第三方包,在pai上做分布式训练的时候如何让这个第三方包生效啊?

展开
收起
冰激凌甜筒 2023-06-05 16:38:44 99 0
3 条回答
写回答
取消 提交回答
  • 公众号:网络技术联盟站,InfoQ签约作者,阿里云社区签约作者,华为云 云享专家,BOSS直聘 创作王者,腾讯课堂创作领航员,博客+论坛:https://www.wljslmz.cn,工程师导航:https://www.wljslmz.com

    在阿里云机器学习PAI中使用第三方库或自定义逻辑的方式一般有两种:安装依赖包和修改训练脚本。

    如果你在easyrec中已经添加了自定义逻辑,那么可以考虑直接将整个easyrec项目打包成Python egg文件,并上传到PAI服务中。然后,在你提交的作业中引入该egg文件并在作业脚本中使用对应的模块即可。具体步骤如下:

    1. 在easyrec项目根目录下使用python setup.py bdist_egg命令打包成egg文件。

    2. 在PAI数据管理页面中创建一个数据集,将egg文件上传到该数据集中。

    3. 在你的PAI训练作业中,选择相应的计算环境,并在作业配置页面的“启动命令”处加入以下代码:

    --python-archive ${dataset_path}/your-eggs.egg
    

    其中${dataset_path}表示该数据集的挂载路径,在作业启动时会被替换为实际的路径。这个选项告诉PAI从指定的egg文件加载依赖包。

    1. 在训练作业脚本中通过import语句引入easyrec项目中的模块并使用它们。

    使用第三方库进行分布式训练需要考虑到以下一些问题:

    1. 第三方库是否支持分布式训练,是否能够正确地处理并行计算和通信?

    2. 依赖包的版本问题,不同版本之间是否存在兼容性问题?是否需要手动安装依赖包的完整依赖库?

    3. 是否需要对训练脚本进行修改以适应自定义逻辑?如何将自定义逻辑整合到原有训练逻辑中?

    因此,在使用第三方库进行分布式训练时,建议遵循最佳实践和安全规范,确保软件稳定性和安全性。同时,也需要对项目的可维护性和扩展性进行评估和设计,以满足实际业务需求。

    2023-06-05 21:53:49
    赞同 展开评论 打赏
  • 北京阿里云ACE会长

    如果您在 EasyRec 中自定义了一些逻辑,并且需要在机器学习 PAI 平台上进行分布式训练,可以通过以下步骤让第三方包生效:

    1. 打包自定义逻辑:将自定义逻辑打包成一个 Python 包,并将其发布到 PyPI 或者其他私有仓库中,以便在机器学习 PAI 平台上使用。

    2. 安装自定义逻辑:在机器学习 PAI 平台上的训练环境中安装自定义逻辑的 Python 包。可以在训练任务的脚本中添加安装命令,例如:

      pip install <your_custom_package>

      
      
    3. 导入自定义逻辑:在训练任务的脚本中导入自定义逻辑的模块或函数,以便在训练过程中使用。例如:

      from <your_custom_package> import <your_custom_module_or_function>

      
      
    4. 在分布式训练中使用自定义逻辑:在分布式训练的脚本中使用导入的自定义逻辑模块或函数,例如:

      model = <your_custom_module_or_function>(...)

    2023-06-05 17:14:29
    赞同 展开评论 打赏
  • 将第三方包拷贝到pai_jobs目录下, 然后在这里加上目录名: https://github.com/alibaba/EasyRec/blob/master/pai_jobs/deploy_ext.sh#L124, 执行sh deploy_ext.sh -G -V ${new_version} ,然后重新部署一下,参考这个文档: https://easyrec.readthedocs.io/en/latest/release.html#pai-max-compute-easyrec,此回答整理自钉群“【EasyRec】推荐算法交流群”

    2023-06-05 17:03:49
    赞同 展开评论 打赏

人工智能平台 PAI(Platform for AI,原机器学习平台PAI)是面向开发者和企业的机器学习/深度学习工程平台,提供包含数据标注、模型构建、模型训练、模型部署、推理优化在内的AI开发全链路服务,内置140+种优化算法,具备丰富的行业场景插件,为用户提供低门槛、高性能的云原生AI工程化能力。

相关产品

  • 人工智能平台 PAI
  • 相关电子书

    更多
    基于社区的分布式 风险感知模型 立即下载
    如何利用Redisson分布式化传统Web项目 立即下载
    FLASH:大规模分布式图计算引擎及应用 立即下载