人工智能平台PAI问题之多机多卡如何解决

本文涉及的产品
交互式建模 PAI-DSW,每月250计算时 3个月
模型训练 PAI-DLC,100CU*H 3个月
模型在线服务 PAI-EAS,A10/V100等 500元 1个月
简介: 人工智能平台PAI是指阿里云提供的机器学习平台服务,支持建模、训练和部署机器学习模型;本合集将介绍机器学习PAI的功能和操作流程,以及在使用过程中遇到的问题和解决方案。

问题一:机器学习PAI用的还是deepfm模型, 多机多卡, mpi在多机上可以跑通,帮忙看下这个问题?


/usr/bin/mpirun -np 16

--map-by ppr:4:socket -bind-to socket

--hostfile ./hostfile

--allow-run-as-root

--tag-output

--report-bindings

--mca pml ob1

--mca btl ^openib

--mca btl_tcp_if_exclude lo,docker0,bond0

--wdir /home/deeprec

-x NCCL_IB_DISABLE=0

-x NCCL_IB_GID_INDEX=3

-x NCCL_IB_HCA=mlx5

-x NCCL_DEBUG=INFO

-x NCCL_IB_TIMEOUT=25

-x NCCL_IB_RETRY_CNT=7

-x NCCL_SOCKET_IFNAME=eth0

-x TF_GPU_CUPTI_FORCE_CONCURRENT_KERNEL=1

-x JAVA_HOME=/opt/jdk/jdk1.8

-x START_STATISTIC_STEP=100

-x LIBHDFS_OPTS=-Dhadoop.root.logger=WARN,console

-x STOP_STATISTIC_STEP=110

-x MEM_USAGE_STRATEGY=251

-x JEMALLOC_PATH=/home/deeprec

-x SEC_TOKEN_PATH=/home/deeprec/tokens_sectoken

-x TF_SCRIPT=train.py

-x YARN_APP_ID=application_1681844181995_4023507

-x TF_WORKSPACE=/home/deeprec

-x HADOOP_HDFS_HOME=/opt/yarn/hadoop

-x HADOOP_TOKEN_FILE_LOCATION=/home/deeprec/container_tokens

-x PYTHONPATH=/usr/lib/python3.8/site-packages/merlin_sok-1.1.4-py3.8-linux-x86_64.egg:

-x PATH=/opt/yarn/hadoop/bin:/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin

-x APPLICATION_ID=application_1681844181995_4023507

-x LD_LIBRARY_PATH=/opt/jdk/jdk1.8/jre/lib/amd64/server:/opt/yarn/hadoop/lib/native:/opt/yarn/hadoop/lib/native python train.py

--output_dir=hdfs:///user/xxx/deeprec

--data_location=hdfs:///user/xxx/criteo_1tb

--protocol=grpc

--smartstaged=false

--batch_size=2048

--steps=30000

--ev=true

--ev_elimination=l2

--ev_filter=counter

--op_fusion=true

--input_layer_partitioner=0

--dense_layer_partitioner=16

--group_embedding=collective

--workqueue=true

--parquet_dataset=false

机器学习PAI用的还是deepfm模型, 上次跑通了单机多卡, 这次想试试, 多机多卡, 在上yarn调度. ssh都配好了, mpi在多机上可以跑通,帮忙看下这个问题?是在yarn上先拉起两个大容器, 每个容器基本占一台物理机(8卡A100), 然后在容器内打通ssh, 然后在容器内用mpi拉起deeprec进程


参考回答:

所以目前你们是MPI本地提交作业,物理机跑多机多卡能跑起来,用集群调度容器跑不起来,你试试在机器上看看get_physical_devices看看tf有没有正常识别GPU设备 SOK的相关Op目前都只实现了GPU的版本,但是我看Log显示进程只检测到CPU device;所以你要不进容器检查一下tf 的visible_devices


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/506082?spm=5176.8068049.0.0.77566d1989YhJO


问题二:机器学习PAI为啥出来的结果是这样的呢,没有那种比较整齐的表格吗?



机器学习PAI为啥出来的结果是这样的呢,没有那种比较整齐的表格吗?


参考回答:

是个json,py返回的是dict,你可以自己格式化打印。 另外实验目录下有个json文件是格式化的应该


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/506081?spm=5176.8068049.0.0.77566d1989YhJO


问题三:机器学习PAI怎么利用Yolox算法训练自己的数据集?


机器学习PAI怎么利用Yolox算法训练自己的数据集?为什么我一张卡 训练出来的map的值与其他的架构下的yolox算法(mmdetection)有很大的差距, 训练出来的模型识别效果也不好。前20epoch的map等指标都显示未0 ,有时候训练了300个epoch都可能指标值不超过0.1,有大佬解读一下你们使用yolox算法正常吗,你们的使用姿势是如何的? 是在这里下载预训练模型吗



参考回答:

我有遇到过,使用一下对应的预训练权重,这个问题会好一些。是的,然后config文件里面加一句load_from=link或者path


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/506080?spm=5176.8068049.0.0.77566d1989YhJO


问题四:这个方法在机器学习PAI中读取mysql数据,报错这段代码是想把一个表的数据存到另一个表吗?"


"


这个方法读取mysql数据,报错


"


参考回答:

"CatclogSourceBatchOp缺了catalog,可以这样设 CatalogSourceBatchOp().setCatalogObject(catalogObject)


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/505919?spm=5176.8068049.0.0.77566d1989YhJO


问题五:请问关于机器学习PAI、PAI-Designer、PAI-DSW、PAI-EAS中item2vec或者 item embedding的模型和服务在哪里?我要做物品(或者多模态的物品的表示)的表征和相似度检索


请问关于机器学习PAI、PAI-Designer、PAI-DSW、PAI-EAS中item2vec或者 item embedding的模型和服务在哪里?我要做物品(或者多模态的物品的表示)的表征和相似度检索


参考回答:

关于机器学习PAI、PAI-Designer、PAI-DSW、PAI-EAS中的item2vec或者item embedding的模型和服务,您可以通过以下步骤进行操作:

  1. 登录阿里云机器学习平台PAI控制台,进入“工作空间”页面。
  2. 在“工作空间”页面中,选择您的工作空间,并进入该工作空间的控制台。
  3. 在该工作空间的控制台中,您可以使用PAI-Designer或PAI-DSW等工具来构建和训练item2vec或item embedding模型,并使用PAI-EAS等工具来部署和管理您的模型服务。
  4. 在使用PAI-Designer或PAI-DSW构建模型时,您可以选择使用TensorFlow、PyTorch等深度学习框架,并使用PAI提供的数据处理、模型训练和模型评估等功能来完成模型构建和训练。
  5. 在使用PAI-EAS部署模型服务时,您可以选择使用TensorFlow Serving、MXNet Serving等模型服务框架,并使用PAI提供的模型部署、服务配置和监控等功能来完成模型服务的部署和管理。

关于物品的表征和相似度检索,您可以根据您的具体需求选择合适的算法和模型,并使用PAI提供的功能来完成模型构建、训练和部署。例如,您可以使用Word2Vec、GloVe等算法来构建物品的表征模型,并使用余弦相似度、欧几里得距离等方法来计算物品之间的相似度。


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/505446?spm=5176.8068049.0.0.77566d1989YhJO

相关实践学习
使用PAI-EAS一键部署ChatGLM及LangChain应用
本场景中主要介绍如何使用模型在线服务(PAI-EAS)部署ChatGLM的AI-Web应用以及启动WebUI进行模型推理,并通过LangChain集成自己的业务数据。
机器学习概览及常见算法
机器学习(Machine Learning, ML)是人工智能的核心,专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能,它是使计算机具有智能的根本途径,其应用遍及人工智能的各个领域。 本课程将带你入门机器学习,掌握机器学习的概念和常用的算法。
相关文章
|
1月前
|
机器学习/深度学习 人工智能 物联网
通义灵码在人工智能与机器学习领域的应用
通义灵码不仅在物联网领域表现出色,还在人工智能、机器学习、金融、医疗和教育等领域展现出广泛应用前景。本文探讨了其在这些领域的具体应用,如模型训练、风险评估、医疗影像诊断等,并总结了其提高开发效率、降低门槛、促进合作和推动创新的优势。
通义灵码在人工智能与机器学习领域的应用
|
2月前
|
机器学习/深度学习 人工智能 自然语言处理
人工智能与机器学习:探索未来的技术边界
【10月更文挑战第18天】 在这篇文章中,我们将深入探讨人工智能(AI)和机器学习(ML)的基础知识、应用领域以及未来趋势。通过对比分析,我们将揭示这些技术如何改变我们的生活和工作方式,并预测它们在未来可能带来的影响。文章旨在为读者提供一个全面而深入的理解,帮助他们更好地把握这一领域的发展趋势。
|
10天前
|
机器学习/深度学习 传感器 人工智能
人工智能与机器学习:改变未来的力量####
【10月更文挑战第21天】 在本文中,我们将深入探讨人工智能(AI)和机器学习(ML)的基本概念、发展历程及其在未来可能带来的革命性变化。通过分析当前最前沿的技术和应用案例,揭示AI和ML如何正在重塑各行各业,并展望它们在未来十年的潜在影响。 ####
70 27
|
28天前
|
机器学习/深度学习 人工智能 监控
AutoTrain:Hugging Face 开源的无代码模型训练平台
AutoTrain 是 Hugging Face 推出的开源无代码模型训练平台,旨在简化最先进模型的训练过程。用户无需编写代码,只需上传数据即可创建、微调和部署自己的 AI 模型。AutoTrain 支持多种机器学习任务,并提供自动化最佳实践,包括超参数调整、模型验证和分布式训练。
115 4
AutoTrain:Hugging Face 开源的无代码模型训练平台
|
22天前
|
机器学习/深度学习 人工智能 算法
人工智能浪潮下的编程实践:构建你的第一个机器学习模型
在人工智能的巨浪中,每个人都有机会成为弄潮儿。本文将带你一探究竟,从零基础开始,用最易懂的语言和步骤,教你如何构建属于自己的第一个机器学习模型。不需要复杂的数学公式,也不必担心编程难题,只需跟随我们的步伐,一起探索这个充满魔力的AI世界。
41 12
|
1月前
|
机器学习/深度学习 人工智能 算法
人工智能与机器学习的融合之旅
【10月更文挑战第37天】本文将探讨AI和机器学习如何相互交织,共同推动技术发展的边界。我们将深入分析这两个概念,了解它们是如何互相影响,以及这种融合如何塑造我们的未来。文章不仅会揭示AI和机器学习之间的联系,还会通过实际案例展示它们如何协同工作,以解决现实世界的问题。
|
1月前
|
机器学习/深度学习 人工智能 算法
【手写数字识别】Python+深度学习+机器学习+人工智能+TensorFlow+算法模型
手写数字识别系统,使用Python作为主要开发语言,基于深度学习TensorFlow框架,搭建卷积神经网络算法。并通过对数据集进行训练,最后得到一个识别精度较高的模型。并基于Flask框架,开发网页端操作平台,实现用户上传一张图片识别其名称。
93 0
【手写数字识别】Python+深度学习+机器学习+人工智能+TensorFlow+算法模型
|
23天前
|
机器学习/深度学习 人工智能 算法
探索人工智能与机器学习的融合之路
在本文中,我们将探讨人工智能(AI)与机器学习(ML)之间的紧密联系以及它们如何共同推动技术革新。我们将深入分析这两种技术的基本概念、发展历程和当前的应用趋势,同时讨论它们面临的挑战和未来的发展方向。通过具体案例研究,我们旨在揭示AI与ML结合的强大潜力,以及这种结合如何为各行各业带来革命性的变化。
37 0
|
1月前
|
机器学习/深度学习 人工智能 自然语言处理
探索人工智能与机器学习的边界####
本文深入探讨了人工智能(AI)与机器学习(ML)领域的最新进展,重点分析了深度学习技术如何推动AI的边界不断扩展。通过具体案例研究,揭示了这些技术在图像识别、自然语言处理和自动驾驶等领域的应用现状及未来趋势。同时,文章还讨论了当前面临的挑战,如数据隐私、算法偏见和可解释性问题,并提出了相应的解决策略。 ####
|
1月前
|
机器学习/深度学习 数据采集 人工智能
人工智能与机器学习:解锁数据洞察力的钥匙
人工智能与机器学习:解锁数据洞察力的钥匙

相关产品

  • 人工智能平台 PAI