人工智能平台PAI问题之出现pb限制如何解决

本文涉及的产品
模型在线服务 PAI-EAS,A10/V100等 500元 1个月
交互式建模 PAI-DSW,每月250计算时 3个月
模型训练 PAI-DLC,100CU*H 3个月
简介: 人工智能平台PAI是指阿里云提供的机器学习平台服务,支持建模、训练和部署机器学习模型;本合集将介绍机器学习PAI的功能和操作流程,以及在使用过程中遇到的问题和解决方案。

问题一:在机器学习PAI中alink可以在hadoop3的yarn集群环境中运行吗?


"alink可以在hadoop3的yarn集群环境中运行吗? 我看pom文件里面配置的都是2.8.0"


参考回答:

从技术上讲,Alibaba的alink可以在Hadoop 3的YARN集群环境中运行,但需要将它的依赖项配置为Hadoop 3。根据我的了解,当前Alink 2.3版本支持Hadoop 3。因此,您需要在您的项目中更新Alink的版本并将其所需的依赖项更改为Hadoop 3。

如果您按照pom文件中的配置加载alink并运行,在不进行任何更改的情况下,alink将不兼容Hadoop 3环境,并且您可能会遇到与Classpath和API版本不兼容等问题。


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/507116?spm=5176.8068049.0.0.77566d1989YhJO


问题二:请问useRemoteEnv()方法在机器学习PAI中可以解析域名嘛还是必需用ip?


请问useRemoteEnv()方法可以解析域名嘛还是必需用ip?


参考回答:

你机器能 ping 到那个 hostname,那基本就没问题。


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/507115?spm=5176.8068049.0.0.77566d1989YhJO


问题三:请问1、2都完成第三步的jar包在机器学习PAI中去哪里寻找"


"

 

1、2都完成 第三步的jar包 去哪里寻找"


参考回答:

就是截图里的目录


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/507114?spm=5176.8068049.0.0.77566d1989YhJO


问题四:机器学习PAI在这个镜像中或以找到GPU,export出一个镜像, 然后镜像就会出问题, 什么原因?


机器学习PAI在这个镜像中或以找到GPU, registry.cn-shanghai.aliyuncs.com/myjktest/deeprec:deeprec2302-gpu-py38-cu116-ubuntu20.04-hupu, 但是这个镜像太大, 我将bazel cache 删除了, export出一个镜像, 然后那个镜像就会出问题, 这是什么原因呢?


参考回答:

如果用来release的镜像,最好是以base镜像安装whl的流程,dev镜像里安装了太多东西,不适合直接作为上线跑任务使用的镜像 如果用来release的镜像,最好是以base镜像安装whl的流程,dev镜像里安装了太多东西,不适合直接作为上线跑任务使用的镜像


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/507102?spm=5176.8068049.0.0.77566d1989YhJO


问题五:机器学习PAI看是在那个阶段出现的pb限制问题,这种情况下原始的pb应该就超过的2GB?


机器学习PAI看是在那个阶段出现的pb限制问题,新版本的bladedisc应该只有在tf圈图后导出子图编译时会使用pb,bladedisc编译完成后结果不会用pb来存储。这种情况下原始的pb应该就超过的2GB?(如果子图就超过了的话),一种可能的workaround方式时不freeze graph,这样const就不会被编译。另外老版本的bladedisc会使用pb来存储一部分编译后的结果,这个也会有可能超过2GB的限制,如果是这个问题,升级bladedisc应该可以解决。这个定位到是有一个input维度很大,超过了2g的限制,这个有好的处理方式吗?原生tf跑是没问题的


参考回答:

根据您提供的信息,这个问题可能出现在将 Tensorflow 圈图后导出的子图编译时使用 pb 文件来存储的阶段,而且可能是因为某个输入维度很大,超过了 2GB 的限制导致的。如果是这种情况,可以考虑以下一些解决方法:

不进行 Freeze Graph:如您所述,不进行 Freeze Graph 操作可以避免编译时将 const 存储到 pb 文件中,从而避免出现超出 2GB 限制的问题。不过这个方法可能会带来一些性能上的损失,需要根据具体情况进行评估。

修改输入维度:如果某个输入维度太大,超出了 2GB 限制,可以考虑缩小该维度的大小,或者使用更高效的数据结构来存储输入数据,如 sparse tensor。

使用分布式计算:如果单机无法处理大型模型和数据,可以考虑使用分布式计算。Tensorflow 提供了多种分布式计算方案,如 Horovod 和 TensorFlow Distribute。

升级 Bladedisc:如果使用的是老版本的 Bladedisc,可能会出现在编译时将结果存储到 pb 文件中的问题。可以尝试升级到新的版本,或者使用其他的编译方式,如预编译或 JIT 编译。

需要注意的是,以上方法可能会带来一些性能和复杂度上的损失,需要根据具体情况进行评估和选择。


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/506106?spm=5176.8068049.0.0.77566d1989YhJO

相关实践学习
使用PAI-EAS一键部署ChatGLM及LangChain应用
本场景中主要介绍如何使用模型在线服务(PAI-EAS)部署ChatGLM的AI-Web应用以及启动WebUI进行模型推理,并通过LangChain集成自己的业务数据。
机器学习概览及常见算法
机器学习(Machine Learning, ML)是人工智能的核心,专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能,它是使计算机具有智能的根本途径,其应用遍及人工智能的各个领域。 本课程将带你入门机器学习,掌握机器学习的概念和常用的算法。
目录
打赏
0
0
0
0
842
分享
相关文章
生成式人工智能认证(GAI认证)官网 - 全国统一认证中文服务平台上线
生成式人工智能(AI)正深刻改变职场规则,但系统化学习相关技术成为难题。近日,由全球知名教育公司培生推出的生成式人工智能认证(GAI认证)中文官网正式上线,为专业人士和学习者提供了权威解决方案。该认证涵盖核心技能、提示工程、伦理合规等内容,助力持证者紧跟技术前沿,在职场中脱颖而出。全国统一认证平台提供便捷报名与在线考试服务,考后快速出成绩并颁发证书。行动起来,开启AI职业新篇章!
【重磅发布】AllData数据中台核心功能:机器学习算法平台
杭州奥零数据科技有限公司成立于2023年,专注于数据中台业务,维护开源项目AllData并提供商业版解决方案。AllData提供数据集成、存储、开发、治理及BI展示等一站式服务,支持AI大模型应用,助力企业高效利用数据价值。
|
4月前
PAI-Rec推荐平台对于实时特征有三个层次
PAI-Rec推荐平台针对实时特征有三个处理层次:1) 离线模拟反推历史请求时刻的实时特征;2) FeatureStore记录增量更新的实时特征,模型特征导出样本准确性达99%;3) 通过callback回调接口记录请求时刻的特征。各层次确保了实时特征的准确性和时效性。
99 0
基于阿里云人工智能平台的智能客服系统开发与部署
随着人工智能技术的发展,智能客服系统成为企业提升服务效率和用户体验的重要工具。阿里云提供包括自然语言处理(NLP)、语音识别(ASR)、机器学习(PAI)等在内的完整AI平台,助力企业快速构建智能客服系统。本文将通过电商平台案例,展示如何基于阿里云AI平台从零开始开发、部署智能客服系统,并介绍其核心优势与最佳实践,涵盖文本和语音客服、知识库管理及数据分析等功能,显著提升客户服务效率和用户满意度。
阿里云人工智能平台图像视频特征提取
本文介绍了图像与视频特征提取技术在人工智能和计算机视觉中的应用,涵盖图像质量评分、人脸属性分析、年龄分析、图像多标签打标、图文视频动态分类打标、视频质量评分及视频分类打标。通过深度学习模型如CNN和RNN,这些技术能从海量数据中挖掘有价值信息,为图像分类、目标检测、视频推荐等场景提供支持,提升分析精度与效率。
335 9
AI开发新范式,PAI模型构建平台升级发布
本次分享由阿里云智能集团产品专家高慧玲主讲,聚焦AI开发新范式及PAI模型构建平台的升级。分享分为四个部分,围绕“人人可用”和“面向生产”两大核心理念展开。通过降低AI工程化门槛、提供一站式全链路服务,PAI平台致力于帮助企业和开发者更高效地实现AI应用。案例展示中,介绍了多模态模型微调在文旅场景的应用,展示了如何快速复现并利用AI解决实际问题。最终目标是让AI技术更普及,赋能各行业,推动社会进步。
人工智能平台年度技术趋势
阿里云智能集团研究员林伟在年度技术趋势演讲中,分享了AI平台的五大方面进展。首先,他介绍了大规模语言模型(LLM)训练中的挑战与解决方案,包括高效故障诊断和快速恢复机制。其次,探讨了AI应用和服务的普及化,强调通过优化调度降低成本,使AI真正惠及大众。第三,提出了GreenAI理念,旨在提高AI工程效率,减少能源消耗。第四,讨论了企业级能力,确保数据和模型的安全性,并推出硬件到软件的全面安全方案。最后,介绍了整合多项核心技术的Pai Prime框架,展示了阿里云在自主可控AI核心框架下的整体布局和发展方向。
首个!阿里云人工智能平台率先通过国际标准认证
首个!阿里云人工智能平台率先通过国际标准认证
253 7
人工智能与机器学习:改变未来的力量####
【10月更文挑战第21天】 在本文中,我们将深入探讨人工智能(AI)和机器学习(ML)的基本概念、发展历程及其在未来可能带来的革命性变化。通过分析当前最前沿的技术和应用案例,揭示AI和ML如何正在重塑各行各业,并展望它们在未来十年的潜在影响。 ####
188 27

热门文章

最新文章

相关产品

  • 人工智能平台 PAI
  • AI助理

    你好,我是AI助理

    可以解答问题、推荐解决方案等

    登录插画

    登录以查看您的控制台资源

    管理云资源
    状态一览
    快捷访问