开发者社区 > 大数据与机器学习 > 人工智能平台PAI > 正文

请问机器学习PAI关于pytorch tf到HLO Dialect是用的openxla这个项目么?

问题一:请问机器学习PAI关于pytorch tf到HLO Dialect是用的openxla这个项目么?问题二:我最近也在做一套基于mlir的infra对接risc,现在缺少一套比较成熟的前端对接dnn model的方案,openxla里用的是stablehlo,这个你们有研究过和hlo的区别么?

展开
收起
jdki652dnjsbo 2023-05-16 12:24:03 375 0
4 条回答
写回答
取消 提交回答
  • 针对问题一的回答:目前还不是,但有这个迁移打算,不过pytorch的图确实碎了点。针对问题二的回答:还没有去做这个事情。--此回答整理自钉群“TePDist开源项目交流群”

    2023-05-16 15:13:34
    赞同 展开评论 打赏
  • 月移花影,暗香浮动

    问题一:阿里云机器学习(PAI)支持多种深度学习框架,并提供了多种转换工具将不同框架的模型转换为PAI所支持的格式。其中,对于PyTorch和TensorFlow模型转换为PAI的HLO Dialect格式,使用的是Google的开源项目XLA(Accelerated Linear Algebra)而非OpenXLA,XLA是Google针对TensorFlow等数值计算框架的优化器和编译器,可以将高层次的TensorFlow代码编译为机器指令,提高TensorFlow模型的计算效率。

    问题二:根据我的了解,在阿里云机器学习平台 PAI 上将 PyTorch 和 TensorFlow 模型转换为 HLO Dialect 格式,并进行优化等操作,是通过 TensorFlow 官方提供的 XLA 编译器实现的。XLA 编译器是 TensorFlow 的一个子项目,用于在 TensorFlow 程序中动态地构建对于特定硬件环境的高效计算图,并利用 JIT(即时编译)技术实时进行优化,从而提高模型的计算速度和效率。所以,并不是使用 openxla 项目进行的转换。

    2023-05-16 14:43:19
    赞同 展开评论 打赏
  • CSDN全栈领域优质创作者,万粉博主;InfoQ签约博主;华为云享专家;华为Iot专家;亚马逊人工智能自动驾驶(大众组)吉尼斯世界纪录获得者

    是的,机器学习PAI中将PyTorch和TensorFlow转换为HLO Dialect时使用的是OpenXLA项目。OpenXLA是一个开源项目,旨在提供高性能、低延迟的JIT编译器,可以将代码从CPU编译为高效的本地机器码,从而提高应用程序的性能。在机器学习PAI中,使用OpenXLA可以加速深度学习模型的推理过程,提高模型的运行效率和性能。

    2023-05-16 14:20:20
    赞同 展开评论 打赏
  • 问题一:MaxCompute机器学习PAI并没有直接使用OpenXLA这个项目,而是通过对TensorFlow官方的XLA后端进行定制化改造,来实现对TensorFlow模型到HLO Dialect的编译和优化转换。在这个过程中,PAI借鉴了开源社区的一些优秀实现,包括OpenXLA等,但并不是直接使用了它们的代码。

    问题二:关于StableHLO和HLO的区别,StableHLO是一种针对神经网络高层次表示的规范和一组计算操作,它在生成Target-specific Machine IR(可执行的机器代码)和目标设备的TensorFlow代码时发挥着重要作用。在StableHLO规范中,TensorFlow算子被分为了多个类型,主要包括Load、Store、Matmul、Reduction等。而HLO(即High Level Optimization)是指高层次的优化,是一种通用的编译中间表示,用于表示被划分为计算核心的复杂运算,例如卷积层等。HLO通过对算法进行高层次优化,可以进一步提高TensorFlow模型的训练和推理性能。

    在TensorFlow的编译和优化过程中,StableHLO是比较常用的,而HLO主要用于TensorFlow的XLA后端和MLIR的Dialect优化。StableHLO与HLO的区别在于,HLO是更基础、更通用的一种高层次表示,用于表示各种不同的计算核心,而StableHLO则是一种高层、针对性强的表示方式,主要针对神经网络这类高层次算法进行优化。

    2023-05-16 13:49:31
    赞同 展开评论 打赏

人工智能平台 PAI(Platform for AI,原机器学习平台PAI)是面向开发者和企业的机器学习/深度学习工程平台,提供包含数据标注、模型构建、模型训练、模型部署、推理优化在内的AI开发全链路服务,内置140+种优化算法,具备丰富的行业场景插件,为用户提供低门槛、高性能的云原生AI工程化能力。

相关产品

  • 人工智能平台 PAI
  • 相关电子书

    更多
    大规模机器学习在蚂蚁+阿里的应用 立即下载
    阿里巴巴机器学习平台AI 立即下载
    微博机器学习平台架构和实践 立即下载