人工智能平台PAI操作报错合集之带有all reduce 的算子是trace不出来的,结果会错,怎么才可以绕过去

本文涉及的产品
交互式建模 PAI-DSW,每月250计算时 3个月
模型训练 PAI-DLC,100CU*H 3个月
模型在线服务 PAI-EAS,A10/V100等 500元 1个月
简介: 阿里云人工智能平台PAI (Platform for Artificial Intelligence) 是阿里云推出的一套全面、易用的机器学习和深度学习平台,旨在帮助企业、开发者和数据科学家快速构建、训练、部署和管理人工智能模型。在使用阿里云人工智能平台PAI进行操作时,可能会遇到各种类型的错误。以下列举了一些常见的报错情况及其可能的原因和解决方法。

问题一:机器学习PAI这个错误有空能帮忙看下吗?


机器学习PAI这个错误有空能帮忙看下吗?INFO: Found 7 targets...

ERROR: /root/.cache/bazel/_bazel_root/2f9436f914163304d24e844a3ddc3a23/external/tensorrt/BUILD:18:11: Middleman _middlemen/@tensorrt_S_S_Cnvinfer_Uheaders-cc_library-compile failed: missing input file '@tensorrt//:include/NvUtils.h'

ERROR: /root/.cache/bazel/_bazel_root/2f9436f914163304d24e844a3ddc3a23/external/tensorrt/BUILD:18:11: Middleman _middlemen/@tensorrt_S_S_Cnvinfer_Uheaders-cc_library-compile failed: 1 input file(s) do not exist

ERROR: /root/.cache/bazel/_bazel_root/2f9436f914163304d24e844a3ddc3a23/external/tensorrt/BUILD:18:11 Middleman _middlemen/@tensorrt_S_S_Cnvinfer_Uheaders-cc_library-compile failed: 1 input file(s) do not exist

INFO: Elapsed time: 2.172s, Critical Path: 0.00s

INFO: 2 processes: 2 internal.

FAILED: Build did NOT complete successfully


参考回答:

看起来环境里没有 tensorrt,建议还是用disc 的开发镜像, 那个环境是经过 CI 验证的


关于本问题的更多回答可点击原文查看:

https://developer.aliyun.com/ask/582112



问题二:机器学习PAI一条数据也会报错,什么原因?


机器学习PAI一条数据也会报错?

这个是odps表建表语句

CREATE TABLE IF NOT EXISTS label_knowl_user_training_table_dev_2(

label STRING,

user_sex STRING,

user_organization_group STRING,

user_organization_job_group STRING,

user_knowl_count STRING,

user_points STRING,

user_contribute STRING,

knowl_author_group STRING,

knowl_defind_tag_group STRING,

knowl_feaktm_tags STRING,

knowl_pro_tags STRING,

knowl_organization_group STRING,

knowl_hot STRING,

knowl_view_count STRING,

knowl_reply_count STRING,

knowl_like_count STRING,

knowl_favorite_count STRING,

user_register_at STRING,

user_pr_birthday STRING,

knowl_first_publish_time STRING,

knowl_publish_time STRING,

knowl_vec STRING)

STORED AS ALIORC ;


参考回答:

你的 第 10 个特征的特征值,和你在 EasyRec config 里面的定义,你的第 10 个特征里面没有 kv_separator 吧


关于本问题的更多回答可点击原文查看:

https://developer.aliyun.com/ask/582125



问题三:机器学习PAI现在带有all reduce 的算子是trace不出来的?结果会错?有办法绕过去吗?


机器学习PAI现在带有all reduce 的算子是trace不出来的,结果会错,有办法绕过去吗? 如果只想融合下算子 ,除了aot autograd,还有其他方式吗?


参考回答:

如果是只是想测下 fusion,直接用就可以了,dynamo 在 trace 的时候会 break 掉 collective ops。 但社区已经在解决这个问题了,比如这个 RFC:https://github.com/pytorch/pytorch/issues/93173 ,以及这个 unit test:https://github.com/pytorch/pytorch/blob/main/test/distributed/test_inductor_collectives.py


关于本问题的更多回答可点击原文查看:

https://developer.aliyun.com/ask/582108



问题四:机器学习PAI我可以直接用类似这种格式的数据训练带FG功能的模型吗?


机器学习PAI我可以直接用类似这种格式的数据训练带FG功能的模型吗?

因为我之前训练的模型,部署的时候,当设置"fg_mode": "bypass" 的时候,是可以部署成功的,但是设置成"fg_mode": "tf"以后,部署时就会报 Failed to load optimized model 的错误 所以我想知道,训练模型的时候,训练数据就必须是你们表格中的那种格式吗?


参考回答:

"fg_mode": "bypass" 这个模式就相当于直接部署EAS 的 tensorflow processor; 并不能利用用 EasyRecProcessor的额外优势。如果就只是想使用TF的推理服务的话,建议还是直接部署 TF Processor; 如果想使用 EasyRecProcessor, 一般的流程是要使用FG的,这种情况下目前训练数据是必须要处理成 第一个图中的 big string的格式 后面我们也可能会支持直接从原始table训练支持FG功能的模型;目前还不支持 。


关于本问题的更多回答可点击原文查看:

https://developer.aliyun.com/ask/580116



问题五:机器学习PAI日志中明明上面已经显示savemodelload成功,后面又loadmodel失败呢?


机器学习PAI日志中明明上面已经显示savemodel load成功,后面又load model失败呢?


参考回答:

你没有配item特征表 INVALID_ARGUMENT: Parse fg json config failed .fg.json 要放在 saved_model的目录 asserts 下面

你的json格式有问题 Parse FgConfig from file failed: /larec/build/3rdparty/include/autil/legacy/any.h(112): BadAnyCast: autil::legacy::AnyCast: can't cast from N5autil 6legacy4json10JsonNumberE to Ss, content is 0


关于本问题的更多回答可点击原文查看:

https://developer.aliyun.com/ask/580776

相关实践学习
使用PAI-EAS一键部署ChatGLM及LangChain应用
本场景中主要介绍如何使用模型在线服务(PAI-EAS)部署ChatGLM的AI-Web应用以及启动WebUI进行模型推理,并通过LangChain集成自己的业务数据。
机器学习概览及常见算法
机器学习(Machine Learning, ML)是人工智能的核心,专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能,它是使计算机具有智能的根本途径,其应用遍及人工智能的各个领域。 本课程将带你入门机器学习,掌握机器学习的概念和常用的算法。
相关文章
|
2月前
|
机器学习/深度学习 人工智能 物联网
通义灵码在人工智能与机器学习领域的应用
通义灵码不仅在物联网领域表现出色,还在人工智能、机器学习、金融、医疗和教育等领域展现出广泛应用前景。本文探讨了其在这些领域的具体应用,如模型训练、风险评估、医疗影像诊断等,并总结了其提高开发效率、降低门槛、促进合作和推动创新的优势。
通义灵码在人工智能与机器学习领域的应用
|
3月前
|
机器学习/深度学习 人工智能 监控
揭秘人工智能:机器学习的魔法
【10月更文挑战第6天】本文将带你走进人工智能的世界,了解机器学习如何改变我们的生活。我们将深入探讨机器学习的原理,以及它在各个领域的应用。同时,我们也会分享一些实用的代码示例,帮助你更好地理解和应用机器学习。无论你是初学者还是专业人士,这篇文章都将为你提供有价值的信息和启示。让我们一起探索这个神奇的领域吧!
|
3月前
|
机器学习/深度学习 人工智能 自然语言处理
人工智能与机器学习:探索未来的技术边界
【10月更文挑战第18天】 在这篇文章中,我们将深入探讨人工智能(AI)和机器学习(ML)的基础知识、应用领域以及未来趋势。通过对比分析,我们将揭示这些技术如何改变我们的生活和工作方式,并预测它们在未来可能带来的影响。文章旨在为读者提供一个全面而深入的理解,帮助他们更好地把握这一领域的发展趋势。
|
3月前
|
机器学习/深度学习 测试技术
阿里云入选Gartner数据科学和机器学习平台挑战者象限
Gartner® 正式发布了《数据科学与机器学习平台魔力象限》报告(Magic Quadrant™ for Data Science and Machine Learning Platforms),阿里云成为唯一一家入选该报告的中国厂商,被评为“挑战者”(Challengers)。
|
20天前
|
机器学习/深度学习 传感器 人工智能
人工智能与机器学习:改变未来的力量####
【10月更文挑战第21天】 在本文中,我们将深入探讨人工智能(AI)和机器学习(ML)的基本概念、发展历程及其在未来可能带来的革命性变化。通过分析当前最前沿的技术和应用案例,揭示AI和ML如何正在重塑各行各业,并展望它们在未来十年的潜在影响。 ####
84 27
|
9天前
|
数据采集 人工智能 智能设计
首个!阿里云人工智能平台率先通过国际标准认证
首个!阿里云人工智能平台率先通过国际标准认证
50 7
|
6天前
|
机器学习/深度学习 人工智能 算法
人工智能平台年度技术趋势
阿里云智能集团研究员林伟在年度技术趋势演讲中,分享了AI平台的五大方面进展。首先,他介绍了大规模语言模型(LLM)训练中的挑战与解决方案,包括高效故障诊断和快速恢复机制。其次,探讨了AI应用和服务的普及化,强调通过优化调度降低成本,使AI真正惠及大众。第三,提出了GreenAI理念,旨在提高AI工程效率,减少能源消耗。第四,讨论了企业级能力,确保数据和模型的安全性,并推出硬件到软件的全面安全方案。最后,介绍了整合多项核心技术的Pai Prime框架,展示了阿里云在自主可控AI核心框架下的整体布局和发展方向。
|
2月前
|
机器学习/深度学习 人工智能 监控
AutoTrain:Hugging Face 开源的无代码模型训练平台
AutoTrain 是 Hugging Face 推出的开源无代码模型训练平台,旨在简化最先进模型的训练过程。用户无需编写代码,只需上传数据即可创建、微调和部署自己的 AI 模型。AutoTrain 支持多种机器学习任务,并提供自动化最佳实践,包括超参数调整、模型验证和分布式训练。
152 4
AutoTrain:Hugging Face 开源的无代码模型训练平台
|
1月前
|
机器学习/深度学习 人工智能 算法
人工智能浪潮下的编程实践:构建你的第一个机器学习模型
在人工智能的巨浪中,每个人都有机会成为弄潮儿。本文将带你一探究竟,从零基础开始,用最易懂的语言和步骤,教你如何构建属于自己的第一个机器学习模型。不需要复杂的数学公式,也不必担心编程难题,只需跟随我们的步伐,一起探索这个充满魔力的AI世界。
49 12
|
2天前
|
存储 人工智能 大数据
AI开发新范式,PAI模型构建平台升级发布
本次分享由阿里云智能集团产品专家高慧玲主讲,聚焦AI开发新范式及PAI模型构建平台的升级。分享分为四个部分,围绕“人人可用”和“面向生产”两大核心理念展开。通过降低AI工程化门槛、提供一站式全链路服务,PAI平台致力于帮助企业和开发者更高效地实现AI应用。案例展示中,介绍了多模态模型微调在文旅场景的应用,展示了如何快速复现并利用AI解决实际问题。最终目标是让AI技术更普及,赋能各行业,推动社会进步。

相关产品

  • 人工智能平台 PAI