阿里云机器学习平台 PAI宣布集成国产深度学习框架 OneFlow

简介: 在云栖大会上,阿里云机器学习PAI平台宣布集成自研深度学习框架OneFlow,进一步提升对国产算法框架的支持。PAI可以在架构上实现包括对国际主流、国内自研在内的任何第三方深度学习框架的支持。

11月4日消息,在云栖大会上,阿里云机器学习平台 PAI宣布集成自研深度学习框架OneFlow,进一步提升对国产算法框架的支持。


阿里云机器学习平台PAI是一站式AI开发平台,提供了丰富的机器学习组件和云原生开发工具,集成了国际主流的机器学习框架例如TensorFlow、PyTorch和Caffe等。同时,PAI具备开放性的技术架构,支持第三方社区框架集成到PAI平台,以社区镜像或自定义镜像的方式提供给开发者。


将自研深度学习框架OneFlow集成到PAI上,也是对机器学习平台PAI开放性的验证,PAI可以在架构上实现包括对国际主流、国内自研在内的任何第三方深度学习框架的支持


OneFlow 是一款易用、高效、高扩展,自主研发的深度学习框架。其算子和模块编程接口与 PyTorch 兼容性极高,基于 PyTorch 搭建的常见模型几乎不用修改即可在 OneFlow 上运行,迁移成本低。并且可以轻松切换动静模式,模型调试阶段享有和PyTorch 完全一样的动态图编程体验;除此之外,OneFlow 计算性能卓越,在主流模型上最大有一个数量级的性能提升,极致系统级优化实现几乎零运行期开销。

目前,AI开发者已经可以在PAI的云原生开发环境中使用OneFlow进行机器学习训练和离线推理。开发者在PAI的深度学习容器DLC中创建训练任务时,只需要在“社区镜像”列表里选择OneFlow镜像,任务提交后PAI就可以使用OneFlow框架执行深度学习训练任务。开发者也可以在PAI的Data Science Workshop (DSW) 交互式开发工具中安装OneFlow软件并执行基于OneFlow框架的训练任务。

98894B16-B8A7-437b-9E24-006D0709FEF7.png

除了通过合作集成的方式实现对第三方社区框架的支持,PAI平台还允许开发者使用自定义镜像来执行云原生训练任务。开发者可以在深度学习容器DLC中选择自己事先保存好的镜像,或者指定自定义镜像地址,在提交训练任务时PAI就会使用该镜像执行相应的任务。PAI平台的开放性架构设计实现对任何第三方机器学习框架的支持,具有良好的可扩展性和丰富性,是基于云原生AI开发的强大平台。


 了解更多关于阿里云机器学习平台 PAI 相关消息:

https://www.aliyun.com/product/bigdata/learn

相关实践学习
使用PAI+LLaMA Factory微调Qwen2-VL模型,搭建文旅领域知识问答机器人
使用PAI和LLaMA Factory框架,基于全参方法微调 Qwen2-VL模型,使其能够进行文旅领域知识问答,同时通过人工测试验证了微调的效果。
机器学习概览及常见算法
机器学习(Machine Learning, ML)是人工智能的核心,专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能,它是使计算机具有智能的根本途径,其应用遍及人工智能的各个领域。 本课程将带你入门机器学习,掌握机器学习的概念和常用的算法。
相关文章
|
PyTorch 调度 算法框架/工具
阿里云PAI-DLC任务Pytorch launch_agent Socket Timeout问题源码分析
DLC任务Pytorch launch_agent Socket Timeout问题源码分析与解决方案
629 18
阿里云PAI-DLC任务Pytorch launch_agent Socket Timeout问题源码分析
|
12月前
|
机器学习/深度学习 人工智能 自然语言处理
阿里云人工智能平台 PAI 开源 EasyDistill 框架助力大语言模型轻松瘦身
本文介绍了阿里云人工智能平台 PAI 推出的开源工具包 EasyDistill。随着大语言模型的复杂性和规模增长,它们面临计算需求和训练成本的障碍。知识蒸馏旨在不显著降低性能的前提下,将大模型转化为更小、更高效的版本以降低训练和推理成本。EasyDistill 框架简化了知识蒸馏过程,其具备多种功能模块,包括数据合成、基础和进阶蒸馏训练。通过数据合成,丰富训练集的多样性;基础和进阶蒸馏训练则涵盖黑盒和白盒知识转移策略、强化学习及偏好优化,从而提升小模型的性能。
|
缓存 并行计算 测试技术
阿里云PAI-全模态模型Qwen2.5-Omni-7B推理浅试
阿里云PAI-全模态模型Qwen2.5-Omni-7B推理浅试
2869 12
|
机器学习/深度学习 存储 Kubernetes
【重磅发布】AllData数据中台核心功能:机器学习算法平台
杭州奥零数据科技有限公司成立于2023年,专注于数据中台业务,维护开源项目AllData并提供商业版解决方案。AllData提供数据集成、存储、开发、治理及BI展示等一站式服务,支持AI大模型应用,助力企业高效利用数据价值。
|
存储 人工智能 云栖大会
【云栖大会】阿里云设计中心 × 教育部协同育人项目成果展,PAI ArtLab助力高校AIGC教育新路径
【云栖大会】阿里云设计中心 × 教育部协同育人项目成果展,PAI ArtLab助力高校AIGC教育新路径
|
机器学习/深度学习 人工智能 自然语言处理
云上一键部署通义千问 QwQ-32B 模型,阿里云 PAI 最佳实践
3月6日阿里云发布并开源了全新推理模型通义千问 QwQ-32B,在一系列权威基准测试中,千问QwQ-32B模型表现异常出色,几乎完全超越了OpenAI-o1-mini,性能比肩Deepseek-R1,且部署成本大幅降低。并集成了与智能体 Agent 相关的能力,够在使用工具的同时进行批判性思考,并根据环境反馈调整推理过程。阿里云人工智能平台 PAI-Model Gallery 现已经支持一键部署 QwQ-32B,本实践带您部署体验专属 QwQ-32B模型服务。
|
人工智能 自然语言处理 运维
Qwen3 全尺寸模型支持通过阿里云PAI-ModelGallery 一键部署
Qwen3 是 Qwen 系列最新一代的大语言模型,提供了一系列密集(Dense)和混合专家(MOE)模型。目前,PAI 已经支持 Qwen3 全系列模型一键部署,用户可以通过 PAI-Model Gallery 快速开箱!
|
人工智能 自然语言处理 网络安全
基于阿里云 Milvus + DeepSeek + PAI LangStudio 的低成本高精度 RAG 实战
阿里云向量检索服务Milvus版是一款全托管向量检索引擎,并确保与开源Milvus的完全兼容性,支持无缝迁移。它在开源版本的基础上增强了可扩展性,能提供大规模AI向量数据的相似性检索服务。凭借其开箱即用的特性、灵活的扩展能力和全链路监控告警,Milvus云服务成为多样化AI应用场景的理想选择,包括多模态搜索、检索增强生成(RAG)、搜索推荐、内容风险识别等。您还可以利用开源的Attu工具进行可视化操作,进一步促进应用的快速开发和部署。
1108 1
PAI-Rec推荐平台对于实时特征有三个层次
PAI-Rec推荐平台针对实时特征有三个处理层次:1) 离线模拟反推历史请求时刻的实时特征;2) FeatureStore记录增量更新的实时特征,模型特征导出样本准确性达99%;3) 通过callback回调接口记录请求时刻的特征。各层次确保了实时特征的准确性和时效性。
716 0
|
人工智能 监控 开发者
阿里云PAI发布DeepRec Extension,打造稳定高效的分布式训练,并宣布开源!
阿里云PAI发布DeepRec Extension,打造稳定高效的分布式训练,并宣布开源!
348 0

热门文章

最新文章

相关产品

  • 人工智能平台 PAI