人工智能平台PAI操作报错合集之引用github.com/alibaba/pairec包时报错,该如何解决

本文涉及的产品
模型在线服务 PAI-EAS,A10/V100等 500元 1个月
交互式建模 PAI-DSW,每月250计算时 3个月
模型训练 PAI-DLC,100CU*H 3个月
简介: 阿里云人工智能平台PAI是一个功能强大、易于使用的AI开发平台,旨在降低AI开发门槛,加速创新,助力企业和开发者高效构建、部署和管理人工智能应用。其中包含了一系列相互协同的产品与服务,共同构成一个完整的人工智能开发与应用生态系统。以下是对PAI产品使用合集的概述,涵盖数据处理、模型开发、训练加速、模型部署及管理等多个环节。

问题一:机器学习PAI为啥这个多worker多卡会报错?

机器学习PAI为啥这个多worker多卡会报错?



参考答案:

从你提供的图片中,我看到了一些关于PAI(阿里云的机器学习平台)的错误信息。为了更准确地诊断问题,我需要更详细的错误信息或上下文。不过,基于你提供的信息,以下是一些建议和可能的原因:

  1. 资源限制:PAI可能会对用户分配的资源有限制,如CPU、内存、GPU等。如果一个任务请求的资源超过了这些限制,那么它可能会失败。
  2. 网络问题:确保你的机器可以访问PAI服务并且网络连接稳定。
  3. 权限问题:确保你的账户有足够的权限来运行这个任务。
  4. 代码问题:虽然我不能直接查看你的代码,但请确保你的代码是正确配置的,并且与PAI的API和要求相匹配。
  5. 其他服务冲突:确保没有其他服务或进程正在使用相同的资源,导致冲突。



关于本问题的更多回答可点击进行查看:

https://developer.aliyun.com/ask/591132



问题二:机器学习PAI跑训练报了这个错,可以帮忙看下原因嘛?

机器学习PAI跑训练报了这个错,可以帮忙看下原因嘛?https://logview.alibaba-inc.com/logview/?h=http://service.odps.aliyun-inc.com/api&p=ump_ads_dev&i=20240119074309788gvjh5k0vyvs3_6942b76f_c617_4d26_8f91_2bcd4919a2af&token=Ym13NTFpMzR6WFlkZHMvODRiY3NGNytmQ3EwPSxPRFBTX09CTzoxODY2OTY1OTcxODQ2OTU4LDE3MDgyNDIxOTEseyJTdGF0ZW1lbnQiOlt7IkFjdGlvbiI6WyJvZHBzOlJlYWQiXSwiRWZmZWN0IjoiQWxsb3ciLCJSZXNvdXJjZSI6WyJhY3M6b2RwczoqOnByb2plY3RzL3VtcF9hZHNfZGV2L2luc3RhbmNlcy8yMDI0MDExOTA3NDMwOTc4OGd2amg1azB2eXZzM182OTQyYjc2Zl9jNjE3XzRkMjZfOGY5MV8yYmNkNDkxOWEyYWYiXX1dLCJWZXJzaW9uIjoiMSJ9



参考答案:

"看起来训练没拉起来,资源也别用GPU

pipleline.config去掉这个train_distribute: MultiWorkerMirroredStrategy

maxcompute上目前不支持MultiWorkerMirroredStrategy, 建议到DLC上跑,另外不需要设置ps



关于本问题的更多回答可点击进行查看:

https://developer.aliyun.com/ask/591131



问题三:想请教一下机器学习PAI我跑predict时报这个错是什么原因?

想请教一下机器学习PAI我跑predict时报这个错是什么原因?:https://logview.alibaba-inc.com/logview/?h=http://service.odps.aliyun-inc.com/api&p=ump_ads_dev&i=20240117084247174gtsqd48vyvs3_d111f14b_6486_4429_836a_90c214b03a4e&token=bDlhNytNUWJoM0hCWUl0MjJpUGNTUW5ZOU9ZPSxPRFBTX09CTzoxODY2OTY1OTcxODQ2OTU4LDE3MDgwNzI5NzIseyJTdGF0ZW1lbnQiOlt7IkFjdGlvbiI6WyJvZHBzOlJlYWQiXSwiRWZmZWN0IjoiQWxsb3ciLCJSZXNvdXJjZSI6WyJhY3M6b2RwczoqOnByb2plY3RzL3VtcF9hZHNfZGV2L2luc3RhbmNlcy8yMDI0MDExNzA4NDI0NzE3NGd0c3FkNDh2eXZzM19kMTExZjE0Yl82NDg2XzQ0MjlfODM2YV85MGMyMTRiMDNhNGUiXX1dLCJWZXJzaW9uIjoiMSJ9

这是我跑的命令:pai -name easy_rec_ext -project algo_public

-Dversion='oppo_release'

-Dcmd=predict

-Dinput_table=odps://ump_ads_dev/tables/autoencoder_train_feature_dense_val_middle_did

-Doutput_table=odps://ump_ads_dev/tables/autoencoder_v1_all_0116_val_middle_predict

-Dcluster="{\"worker\":{\"count\": 40,\"gpu\":0,\"cpu\":1500,\"memory\":100000}}"

-Dbuckets="oss://rta-bucket/?role_arn=acs:ram::1078614756289401:role/rta-role&host=oss-cn-hangzhou-zmf-internal.aliyuncs.com"

-Dsaved_model_dir='oss://rta-bucket/autoencoder/v1_all_0116/export/best/'

-Doutput_cols='middle_embed string, output_feature string'

-Dreserved_cols='did'

-Dmodel_outputs="middle_embed,output_feature"

-Dbatch_size=1024

;



参考答案:

目录写错了 ,



关于本问题的更多回答可点击进行查看:

https://developer.aliyun.com/ask/591127



问题四:我的机器学习PAI的easyrec部署起不来了,这个是啥问题哟?

我的机器学习PAI的easyrec部署起不来了,这个是啥问题哟?



参考答案:

导出有问题,需要把export_config.multi_placeholder设成false



关于本问题的更多回答可点击进行查看:

https://developer.aliyun.com/ask/591123



问题五:想请教下机器学习PAI~编译的时候会报 这块该怎么办呢?

想请教下机器学习PAI~

编译的时候会报

pairec_demo/src imports

github.com/alibaba/pairec: missing go.sum entry for module providing package github.com/alibaba/pairec (imported by pairec_demo/src);

然后go mod tidy

会报i/o 超时

这块该怎么办呢?



参考答案:

export GOPROXY=https://goproxy.cn,direct 设置这个环境变量再试下



关于本问题的更多回答可点击进行查看:

https://developer.aliyun.com/ask/589101

相关实践学习
跟阿里云技术专家学习智能推荐系统
阿里云机器学习PAI团队推出,面向的是企业级的推荐业务应用——《企业级智能推荐系统介绍》,意在结合PAI团队服务各个推荐场景互联网客户的经验,给大家带来更多推荐业务相关的知识普及。PAI是阿里云的算法平台,面向各类客户提供高性能算法和计算框架,在阿里云上有上万企业和开发者客户,其中很大比例为营销推荐场景客户。本次课程分为5个小节:课程1:推荐系统基本概念及架构说明课程2:推荐系统召回算法级架构说明课程3:推荐系统排序算法级架构说明课程4:推荐系统线上服务编排课程5:实操10分钟实现一个简单的推荐系统     -------------------------------------------------------------------------   相关的阿里云产品:机器学习PAI 阿里云机器学习平台PAI(Platform of Artificial Intelligence),为传统机器学习和深度学习提供了从数据处理、模型训练、服务部署到预测的一站式服务。 了解产品详情: https://www.aliyun.com/product/bigdata/product/learn
目录
打赏
0
0
0
0
1159
分享
相关文章
通义灵码在人工智能与机器学习领域的应用
通义灵码不仅在物联网领域表现出色,还在人工智能、机器学习、金融、医疗和教育等领域展现出广泛应用前景。本文探讨了其在这些领域的具体应用,如模型训练、风险评估、医疗影像诊断等,并总结了其提高开发效率、降低门槛、促进合作和推动创新的优势。
通义灵码在人工智能与机器学习领域的应用
AI开发新范式,PAI模型构建平台升级发布
本次分享由阿里云智能集团产品专家高慧玲主讲,聚焦AI开发新范式及PAI模型构建平台的升级。分享分为四个部分,围绕“人人可用”和“面向生产”两大核心理念展开。通过降低AI工程化门槛、提供一站式全链路服务,PAI平台致力于帮助企业和开发者更高效地实现AI应用。案例展示中,介绍了多模态模型微调在文旅场景的应用,展示了如何快速复现并利用AI解决实际问题。最终目标是让AI技术更普及,赋能各行业,推动社会进步。
|
25天前
PAI-Rec推荐平台对于实时特征有三个层次
PAI-Rec推荐平台针对实时特征有三个处理层次:1) 离线模拟反推历史请求时刻的实时特征;2) FeatureStore记录增量更新的实时特征,模型特征导出样本准确性达99%;3) 通过callback回调接口记录请求时刻的特征。各层次确保了实时特征的准确性和时效性。
36 0
人工智能与机器学习:探索未来的技术边界
【10月更文挑战第18天】 在这篇文章中,我们将深入探讨人工智能(AI)和机器学习(ML)的基础知识、应用领域以及未来趋势。通过对比分析,我们将揭示这些技术如何改变我们的生活和工作方式,并预测它们在未来可能带来的影响。文章旨在为读者提供一个全面而深入的理解,帮助他们更好地把握这一领域的发展趋势。
阿里云入选Gartner数据科学和机器学习平台挑战者象限
Gartner® 正式发布了《数据科学与机器学习平台魔力象限》报告(Magic Quadrant™ for Data Science and Machine Learning Platforms),阿里云成为唯一一家入选该报告的中国厂商,被评为“挑战者”(Challengers)。
基于阿里云人工智能平台的智能客服系统开发与部署
随着人工智能技术的发展,智能客服系统成为企业提升服务效率和用户体验的重要工具。阿里云提供包括自然语言处理(NLP)、语音识别(ASR)、机器学习(PAI)等在内的完整AI平台,助力企业快速构建智能客服系统。本文将通过电商平台案例,展示如何基于阿里云AI平台从零开始开发、部署智能客服系统,并介绍其核心优势与最佳实践,涵盖文本和语音客服、知识库管理及数据分析等功能,显著提升客户服务效率和用户满意度。
阿里云人工智能平台图像视频特征提取
本文介绍了图像与视频特征提取技术在人工智能和计算机视觉中的应用,涵盖图像质量评分、人脸属性分析、年龄分析、图像多标签打标、图文视频动态分类打标、视频质量评分及视频分类打标。通过深度学习模型如CNN和RNN,这些技术能从海量数据中挖掘有价值信息,为图像分类、目标检测、视频推荐等场景提供支持,提升分析精度与效率。
185 9
人工智能与机器学习:改变未来的力量####
【10月更文挑战第21天】 在本文中,我们将深入探讨人工智能(AI)和机器学习(ML)的基本概念、发展历程及其在未来可能带来的革命性变化。通过分析当前最前沿的技术和应用案例,揭示AI和ML如何正在重塑各行各业,并展望它们在未来十年的潜在影响。 ####
138 27
首个!阿里云人工智能平台率先通过国际标准认证
首个!阿里云人工智能平台率先通过国际标准认证
153 7
人工智能平台年度技术趋势
阿里云智能集团研究员林伟在年度技术趋势演讲中,分享了AI平台的五大方面进展。首先,他介绍了大规模语言模型(LLM)训练中的挑战与解决方案,包括高效故障诊断和快速恢复机制。其次,探讨了AI应用和服务的普及化,强调通过优化调度降低成本,使AI真正惠及大众。第三,提出了GreenAI理念,旨在提高AI工程效率,减少能源消耗。第四,讨论了企业级能力,确保数据和模型的安全性,并推出硬件到软件的全面安全方案。最后,介绍了整合多项核心技术的Pai Prime框架,展示了阿里云在自主可控AI核心框架下的整体布局和发展方向。

热门文章

最新文章

相关产品

  • 人工智能平台 PAI
  • AI助理

    你好,我是AI助理

    可以解答问题、推荐解决方案等