人工智能平台PAI问题之出现pb限制如何解决

本文涉及的产品
模型在线服务 PAI-EAS,A10/V100等 500元 1个月
交互式建模 PAI-DSW,5000CU*H 3个月
模型训练 PAI-DLC,5000CU*H 3个月
简介: 人工智能平台PAI是指阿里云提供的机器学习平台服务,支持建模、训练和部署机器学习模型;本合集将介绍机器学习PAI的功能和操作流程,以及在使用过程中遇到的问题和解决方案。

问题一:在机器学习PAI中alink可以在hadoop3的yarn集群环境中运行吗?


"alink可以在hadoop3的yarn集群环境中运行吗? 我看pom文件里面配置的都是2.8.0"


参考回答:

从技术上讲,Alibaba的alink可以在Hadoop 3的YARN集群环境中运行,但需要将它的依赖项配置为Hadoop 3。根据我的了解,当前Alink 2.3版本支持Hadoop 3。因此,您需要在您的项目中更新Alink的版本并将其所需的依赖项更改为Hadoop 3。

如果您按照pom文件中的配置加载alink并运行,在不进行任何更改的情况下,alink将不兼容Hadoop 3环境,并且您可能会遇到与Classpath和API版本不兼容等问题。


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/507116?spm=5176.8068049.0.0.77566d1989YhJO


问题二:请问useRemoteEnv()方法在机器学习PAI中可以解析域名嘛还是必需用ip?


请问useRemoteEnv()方法可以解析域名嘛还是必需用ip?


参考回答:

你机器能 ping 到那个 hostname,那基本就没问题。


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/507115?spm=5176.8068049.0.0.77566d1989YhJO


问题三:请问1、2都完成第三步的jar包在机器学习PAI中去哪里寻找"


"

 

1、2都完成 第三步的jar包 去哪里寻找"


参考回答:

就是截图里的目录


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/507114?spm=5176.8068049.0.0.77566d1989YhJO


问题四:机器学习PAI在这个镜像中或以找到GPU,export出一个镜像, 然后镜像就会出问题, 什么原因?


机器学习PAI在这个镜像中或以找到GPU, registry.cn-shanghai.aliyuncs.com/myjktest/deeprec:deeprec2302-gpu-py38-cu116-ubuntu20.04-hupu, 但是这个镜像太大, 我将bazel cache 删除了, export出一个镜像, 然后那个镜像就会出问题, 这是什么原因呢?


参考回答:

如果用来release的镜像,最好是以base镜像安装whl的流程,dev镜像里安装了太多东西,不适合直接作为上线跑任务使用的镜像 如果用来release的镜像,最好是以base镜像安装whl的流程,dev镜像里安装了太多东西,不适合直接作为上线跑任务使用的镜像


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/507102?spm=5176.8068049.0.0.77566d1989YhJO


问题五:机器学习PAI看是在那个阶段出现的pb限制问题,这种情况下原始的pb应该就超过的2GB?


机器学习PAI看是在那个阶段出现的pb限制问题,新版本的bladedisc应该只有在tf圈图后导出子图编译时会使用pb,bladedisc编译完成后结果不会用pb来存储。这种情况下原始的pb应该就超过的2GB?(如果子图就超过了的话),一种可能的workaround方式时不freeze graph,这样const就不会被编译。另外老版本的bladedisc会使用pb来存储一部分编译后的结果,这个也会有可能超过2GB的限制,如果是这个问题,升级bladedisc应该可以解决。这个定位到是有一个input维度很大,超过了2g的限制,这个有好的处理方式吗?原生tf跑是没问题的


参考回答:

根据您提供的信息,这个问题可能出现在将 Tensorflow 圈图后导出的子图编译时使用 pb 文件来存储的阶段,而且可能是因为某个输入维度很大,超过了 2GB 的限制导致的。如果是这种情况,可以考虑以下一些解决方法:

不进行 Freeze Graph:如您所述,不进行 Freeze Graph 操作可以避免编译时将 const 存储到 pb 文件中,从而避免出现超出 2GB 限制的问题。不过这个方法可能会带来一些性能上的损失,需要根据具体情况进行评估。

修改输入维度:如果某个输入维度太大,超出了 2GB 限制,可以考虑缩小该维度的大小,或者使用更高效的数据结构来存储输入数据,如 sparse tensor。

使用分布式计算:如果单机无法处理大型模型和数据,可以考虑使用分布式计算。Tensorflow 提供了多种分布式计算方案,如 Horovod 和 TensorFlow Distribute。

升级 Bladedisc:如果使用的是老版本的 Bladedisc,可能会出现在编译时将结果存储到 pb 文件中的问题。可以尝试升级到新的版本,或者使用其他的编译方式,如预编译或 JIT 编译。

需要注意的是,以上方法可能会带来一些性能和复杂度上的损失,需要根据具体情况进行评估和选择。


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/506106?spm=5176.8068049.0.0.77566d1989YhJO

相关实践学习
使用PAI-EAS一键部署ChatGLM及LangChain应用
本场景中主要介绍如何使用模型在线服务(PAI-EAS)部署ChatGLM的AI-Web应用以及启动WebUI进行模型推理,并通过LangChain集成自己的业务数据。
机器学习概览及常见算法
机器学习(Machine Learning, ML)是人工智能的核心,专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能,它是使计算机具有智能的根本途径,其应用遍及人工智能的各个领域。 本课程将带你入门机器学习,掌握机器学习的概念和常用的算法。
相关文章
|
8天前
|
机器学习/深度学习 人工智能 自动驾驶
探索人工智能的未来:机器学习如何塑造我们的世界
【8月更文挑战第23天】在这篇文章中,我们将深入探讨人工智能(AI)的发展趋势以及它如何影响我们的生活方式。从自动驾驶汽车到智能医疗,AI正在以前所未有的速度改变世界。我们将通过具体案例和专家分析,揭示AI技术的潜在影响,并思考如何在享受其便利的同时,应对可能带来的挑战。
24 3
|
14天前
|
机器学习/深度学习 人工智能 自然语言处理
【机器学习】python之人工智能应用篇--代码生成技术
代码生成技术是人工智能与软件工程交叉领域的一项重要技术,它利用机器学习、自然语言处理和其他AI算法自动编写或辅助编写计算机程序代码。这一技术旨在提高编程效率、降低错误率,并帮助非专业开发者快速实现功能。以下是代码生成技术的概述及其典型应用场景。
25 6
|
11天前
|
机器学习/深度学习 人工智能 自然语言处理
探索Python中的人工智能与机器学习库
【8月更文挑战第20天】
34 1
|
11天前
|
机器学习/深度学习 人工智能 监控
|
11天前
|
机器学习/深度学习 人工智能 自动驾驶
探索人工智能的未来:机器学习如何重塑我们的世界
【8月更文挑战第20天】在本文中,我们将深入探讨机器学习技术如何逐步改变我们的生活和工作方式。通过分析当前的技术应用趋势和未来预测,揭示机器学习在医疗、教育、交通等多个领域内的潜在影响。文章将不展示具体的代码示例,而是侧重于机器学习技术的实际应用及其对人类活动的深远影响。
|
14天前
|
机器学习/深度学习 人工智能 自然语言处理
【机器学习】python之人工智能应用篇——3D生成技术
在Python中,人工智能(AI)与3D生成技术的结合可以体现在多个方面,比如使用AI算法来优化3D模型的生成、通过机器学习来预测3D模型的属性,或者利用深度学习来生成全新的3D内容。然而,直接通过AI生成完整的3D模型(如从文本描述中生成)仍然是一个活跃的研究领域。 3D生成技术是一种通过计算机程序从二维图像或文本描述自动创建三维模型的过程。这一技术在近年来得到了飞速的发展,不仅为游戏、动画和影视行业带来了革命性的变革,还在虚拟现实、增强现实以及工业设计等多个领域展现出了巨大的应用潜力
23 2
|
14天前
|
机器学习/深度学习 人工智能 自然语言处理
【机器学习】python之人工智能应用篇--游戏生成技术
游戏生成技术,特别是生成式人工智能(Generative Artificial Intelligence, 简称Generative AI),正逐步革新游戏开发的多个层面,从内容创作到体验设计。这些技术主要利用机器学习、深度学习以及程序化内容生成(Procedural Content Generation, PCG)来自动创造游戏内的各种元素,显著提高了开发效率、丰富了游戏内容并增强了玩家体验。以下是生成式AI在游戏开发中的几个关键应用场景概述
12 2
|
14天前
|
机器学习/深度学习 人工智能 前端开发
【机器学习】FlyFlowerSong【人工智能】资源指南
FlyFlowerSong是一个创新的音乐合成与处理项目,它利用先进的机器学习算法,为用户提供了一个简单而有趣的音乐创作平台。作为人工智能领域的技术自媒体创作者,我整理了关于FlyFlowerSong的完整教程、论文复现指南以及demo项目源代码,旨在帮助开发者、音乐爱好者以及AI研究者深入探索这一领域。
23 1
|
14天前
|
机器学习/深度学习 人工智能 算法
【人工智能】机器学习、分类问题和逻辑回归的基本概念、步骤、特点以及多分类问题的处理方法
机器学习是人工智能的一个核心分支,它专注于开发算法,使计算机系统能够自动地从数据中学习并改进其性能,而无需进行明确的编程。这些算法能够识别数据中的模式,并利用这些模式来做出预测或决策。机器学习的主要应用领域包括自然语言处理、计算机视觉、推荐系统、金融预测、医疗诊断等。
17 1
|
14天前
|
机器学习/深度学习 算法 TensorFlow
【人工智能】TensorFlow和机器学习概述
TensorFlow的性能优化将是持续的工作重点。这包括更高效的GPU和TPU支持、更快速的模型训练与推理、以及优化的内存使用。同时,随着硬件的发展,TensorFlow将不断优化其代码库以充分利用新型硬件的能力。
10 0

相关产品

  • 人工智能平台 PAI
  • 下一篇
    云函数