人工智能平台PAI问题之多机多卡如何解决

简介: 人工智能平台PAI是指阿里云提供的机器学习平台服务,支持建模、训练和部署机器学习模型;本合集将介绍机器学习PAI的功能和操作流程,以及在使用过程中遇到的问题和解决方案。

问题一:机器学习PAI用的还是deepfm模型, 多机多卡, mpi在多机上可以跑通,帮忙看下这个问题?


/usr/bin/mpirun -np 16

--map-by ppr:4:socket -bind-to socket

--hostfile ./hostfile

--allow-run-as-root

--tag-output

--report-bindings

--mca pml ob1

--mca btl ^openib

--mca btl_tcp_if_exclude lo,docker0,bond0

--wdir /home/deeprec

-x NCCL_IB_DISABLE=0

-x NCCL_IB_GID_INDEX=3

-x NCCL_IB_HCA=mlx5

-x NCCL_DEBUG=INFO

-x NCCL_IB_TIMEOUT=25

-x NCCL_IB_RETRY_CNT=7

-x NCCL_SOCKET_IFNAME=eth0

-x TF_GPU_CUPTI_FORCE_CONCURRENT_KERNEL=1

-x JAVA_HOME=/opt/jdk/jdk1.8

-x START_STATISTIC_STEP=100

-x LIBHDFS_OPTS=-Dhadoop.root.logger=WARN,console

-x STOP_STATISTIC_STEP=110

-x MEM_USAGE_STRATEGY=251

-x JEMALLOC_PATH=/home/deeprec

-x SEC_TOKEN_PATH=/home/deeprec/tokens_sectoken

-x TF_SCRIPT=train.py

-x YARN_APP_ID=application_1681844181995_4023507

-x TF_WORKSPACE=/home/deeprec

-x HADOOP_HDFS_HOME=/opt/yarn/hadoop

-x HADOOP_TOKEN_FILE_LOCATION=/home/deeprec/container_tokens

-x PYTHONPATH=/usr/lib/python3.8/site-packages/merlin_sok-1.1.4-py3.8-linux-x86_64.egg:

-x PATH=/opt/yarn/hadoop/bin:/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin

-x APPLICATION_ID=application_1681844181995_4023507

-x LD_LIBRARY_PATH=/opt/jdk/jdk1.8/jre/lib/amd64/server:/opt/yarn/hadoop/lib/native:/opt/yarn/hadoop/lib/native python train.py

--output_dir=hdfs:///user/xxx/deeprec

--data_location=hdfs:///user/xxx/criteo_1tb

--protocol=grpc

--smartstaged=false

--batch_size=2048

--steps=30000

--ev=true

--ev_elimination=l2

--ev_filter=counter

--op_fusion=true

--input_layer_partitioner=0

--dense_layer_partitioner=16

--group_embedding=collective

--workqueue=true

--parquet_dataset=false

机器学习PAI用的还是deepfm模型, 上次跑通了单机多卡, 这次想试试, 多机多卡, 在上yarn调度. ssh都配好了, mpi在多机上可以跑通,帮忙看下这个问题?是在yarn上先拉起两个大容器, 每个容器基本占一台物理机(8卡A100), 然后在容器内打通ssh, 然后在容器内用mpi拉起deeprec进程


参考回答:

所以目前你们是MPI本地提交作业,物理机跑多机多卡能跑起来,用集群调度容器跑不起来,你试试在机器上看看get_physical_devices看看tf有没有正常识别GPU设备 SOK的相关Op目前都只实现了GPU的版本,但是我看Log显示进程只检测到CPU device;所以你要不进容器检查一下tf 的visible_devices


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/506082?spm=5176.8068049.0.0.77566d1989YhJO


问题二:机器学习PAI为啥出来的结果是这样的呢,没有那种比较整齐的表格吗?



机器学习PAI为啥出来的结果是这样的呢,没有那种比较整齐的表格吗?


参考回答:

是个json,py返回的是dict,你可以自己格式化打印。 另外实验目录下有个json文件是格式化的应该


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/506081?spm=5176.8068049.0.0.77566d1989YhJO


问题三:机器学习PAI怎么利用Yolox算法训练自己的数据集?


机器学习PAI怎么利用Yolox算法训练自己的数据集?为什么我一张卡 训练出来的map的值与其他的架构下的yolox算法(mmdetection)有很大的差距, 训练出来的模型识别效果也不好。前20epoch的map等指标都显示未0 ,有时候训练了300个epoch都可能指标值不超过0.1,有大佬解读一下你们使用yolox算法正常吗,你们的使用姿势是如何的? 是在这里下载预训练模型吗



参考回答:

我有遇到过,使用一下对应的预训练权重,这个问题会好一些。是的,然后config文件里面加一句load_from=link或者path


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/506080?spm=5176.8068049.0.0.77566d1989YhJO


问题四:这个方法在机器学习PAI中读取mysql数据,报错这段代码是想把一个表的数据存到另一个表吗?"


"


这个方法读取mysql数据,报错


"


参考回答:

"CatclogSourceBatchOp缺了catalog,可以这样设 CatalogSourceBatchOp().setCatalogObject(catalogObject)


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/505919?spm=5176.8068049.0.0.77566d1989YhJO


问题五:请问关于机器学习PAI、PAI-Designer、PAI-DSW、PAI-EAS中item2vec或者 item embedding的模型和服务在哪里?我要做物品(或者多模态的物品的表示)的表征和相似度检索


请问关于机器学习PAI、PAI-Designer、PAI-DSW、PAI-EAS中item2vec或者 item embedding的模型和服务在哪里?我要做物品(或者多模态的物品的表示)的表征和相似度检索


参考回答:

关于机器学习PAI、PAI-Designer、PAI-DSW、PAI-EAS中的item2vec或者item embedding的模型和服务,您可以通过以下步骤进行操作:

  1. 登录阿里云机器学习平台PAI控制台,进入“工作空间”页面。
  2. 在“工作空间”页面中,选择您的工作空间,并进入该工作空间的控制台。
  3. 在该工作空间的控制台中,您可以使用PAI-Designer或PAI-DSW等工具来构建和训练item2vec或item embedding模型,并使用PAI-EAS等工具来部署和管理您的模型服务。
  4. 在使用PAI-Designer或PAI-DSW构建模型时,您可以选择使用TensorFlow、PyTorch等深度学习框架,并使用PAI提供的数据处理、模型训练和模型评估等功能来完成模型构建和训练。
  5. 在使用PAI-EAS部署模型服务时,您可以选择使用TensorFlow Serving、MXNet Serving等模型服务框架,并使用PAI提供的模型部署、服务配置和监控等功能来完成模型服务的部署和管理。

关于物品的表征和相似度检索,您可以根据您的具体需求选择合适的算法和模型,并使用PAI提供的功能来完成模型构建、训练和部署。例如,您可以使用Word2Vec、GloVe等算法来构建物品的表征模型,并使用余弦相似度、欧几里得距离等方法来计算物品之间的相似度。


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/505446?spm=5176.8068049.0.0.77566d1989YhJO

相关实践学习
使用PAI+LLaMA Factory微调Qwen2-VL模型,搭建文旅领域知识问答机器人
使用PAI和LLaMA Factory框架,基于全参方法微调 Qwen2-VL模型,使其能够进行文旅领域知识问答,同时通过人工测试验证了微调的效果。
机器学习概览及常见算法
机器学习(Machine Learning, ML)是人工智能的核心,专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能,它是使计算机具有智能的根本途径,其应用遍及人工智能的各个领域。 本课程将带你入门机器学习,掌握机器学习的概念和常用的算法。
相关文章
|
6月前
|
机器学习/深度学习 人工智能 供应链
决策智能是新的人工智能平台吗?
决策智能融合数据、决策与行动,通过AI与自动化技术提升企业决策质量与效率,支持从辅助到自动化的多级决策模式,推动业务敏捷性与价值转化。
|
存储 人工智能 大数据
AI开发新范式,PAI模型构建平台升级发布
本次分享由阿里云智能集团产品专家高慧玲主讲,聚焦AI开发新范式及PAI模型构建平台的升级。分享分为四个部分,围绕“人人可用”和“面向生产”两大核心理念展开。通过降低AI工程化门槛、提供一站式全链路服务,PAI平台致力于帮助企业和开发者更高效地实现AI应用。案例展示中,介绍了多模态模型微调在文旅场景的应用,展示了如何快速复现并利用AI解决实际问题。最终目标是让AI技术更普及,赋能各行业,推动社会进步。
|
8月前
|
机器学习/深度学习 人工智能 运维
阿里云PAI人工智能平台介绍、优势及收费标准,手动整理
阿里云人工智能平台PAI是面向开发者和企业的机器学习与深度学习工程平台,提供数据标注、模型构建、训练、部署及推理优化等全链路服务。内置140+优化算法,支持PyTorch、TensorFlow等多种框架,具备高性能训练与推理能力,适用于自动驾驶、金融风控、智能推荐、智慧医疗等多个行业场景。PAI提供零代码开发、可视化建模、大模型一键部署等功能,助力企业快速构建AI应用。支持多种购买方式,如按量付费、预付费等,满足不同业务需求。
|
10月前
|
人工智能
生成式人工智能认证(GAI认证)官网 - 全国统一认证中文服务平台上线
生成式人工智能(AI)正深刻改变职场规则,但系统化学习相关技术成为难题。近日,由全球知名教育公司培生推出的生成式人工智能认证(GAI认证)中文官网正式上线,为专业人士和学习者提供了权威解决方案。该认证涵盖核心技能、提示工程、伦理合规等内容,助力持证者紧跟技术前沿,在职场中脱颖而出。全国统一认证平台提供便捷报名与在线考试服务,考后快速出成绩并颁发证书。行动起来,开启AI职业新篇章!
|
11月前
|
机器学习/深度学习 存储 Kubernetes
【重磅发布】AllData数据中台核心功能:机器学习算法平台
杭州奥零数据科技有限公司成立于2023年,专注于数据中台业务,维护开源项目AllData并提供商业版解决方案。AllData提供数据集成、存储、开发、治理及BI展示等一站式服务,支持AI大模型应用,助力企业高效利用数据价值。
|
12月前
PAI-Rec推荐平台对于实时特征有三个层次
PAI-Rec推荐平台针对实时特征有三个处理层次:1) 离线模拟反推历史请求时刻的实时特征;2) FeatureStore记录增量更新的实时特征,模型特征导出样本准确性达99%;3) 通过callback回调接口记录请求时刻的特征。各层次确保了实时特征的准确性和时效性。
580 0
|
机器学习/深度学习 人工智能 算法
阿里云人工智能平台图像视频特征提取
本文介绍了图像与视频特征提取技术在人工智能和计算机视觉中的应用,涵盖图像质量评分、人脸属性分析、年龄分析、图像多标签打标、图文视频动态分类打标、视频质量评分及视频分类打标。通过深度学习模型如CNN和RNN,这些技术能从海量数据中挖掘有价值信息,为图像分类、目标检测、视频推荐等场景提供支持,提升分析精度与效率。
880 9
|
人工智能 自然语言处理 BI
基于阿里云人工智能平台的智能客服系统开发与部署
随着人工智能技术的发展,智能客服系统成为企业提升服务效率和用户体验的重要工具。阿里云提供包括自然语言处理(NLP)、语音识别(ASR)、机器学习(PAI)等在内的完整AI平台,助力企业快速构建智能客服系统。本文将通过电商平台案例,展示如何基于阿里云AI平台从零开始开发、部署智能客服系统,并介绍其核心优势与最佳实践,涵盖文本和语音客服、知识库管理及数据分析等功能,显著提升客户服务效率和用户满意度。
|
机器学习/深度学习 人工智能 算法
人工智能平台年度技术趋势
阿里云智能集团研究员林伟在年度技术趋势演讲中,分享了AI平台的五大方面进展。首先,他介绍了大规模语言模型(LLM)训练中的挑战与解决方案,包括高效故障诊断和快速恢复机制。其次,探讨了AI应用和服务的普及化,强调通过优化调度降低成本,使AI真正惠及大众。第三,提出了GreenAI理念,旨在提高AI工程效率,减少能源消耗。第四,讨论了企业级能力,确保数据和模型的安全性,并推出硬件到软件的全面安全方案。最后,介绍了整合多项核心技术的Pai Prime框架,展示了阿里云在自主可控AI核心框架下的整体布局和发展方向。

热门文章

最新文章

相关产品

  • 人工智能平台 PAI