【2023云栖】黄博远:阿里云人工智能平台PAI年度发布

本文涉及的产品
模型训练 PAI-DLC,5000CU*H 3个月
模型在线服务 PAI-EAS,A10/V100等 500元 1个月
交互式建模 PAI-DSW,每月250计算时 3个月
简介: 本文根据2023云栖大会阿里云计算平台事业部资深产品专家、阿里云人工智能平台PAI产品负责人-黄博远演讲实录整理而成,演讲主题:阿里云人工智能平台PAI年度发布

AIGC是我们这个时代的新机遇

今年云栖大会,阿里云机器学习平台PAI正式发布升级为人工智能平台PAI。在过去的12个月,AI生态发生了巨大的变化,AIGC已经成为继互联网时代的下一个产业时代风口,带来了很多新的机遇和挑战。

在整个市场当中,AIGC领域可以分为三类:预训练大模型、开源生态和下游应用。


AI研发新范式和新挑战

在新局势下,整个AI研发进入到新范式

  • 从预训练模型开始,快速定制、快速落地
  • AI开发门槛大大降低,AI推广加速,行业应用增长

研发新范式升级跟以往从搞数据到0-1搭模型是非常不一样的,主要会有三类客户:

  • 上游:通用模型生产者与平台方(如阿里);
  • 中游:利用垂直行业知识对模型进行优化(生态伙伴);
  • 下游:最终AI应用的使用者(最广大的用户群体)。

AI生态链的整合和角色分化是行业发展的方向,符合社会整体效率提高的要求,必将推动AI普惠化的进程。

阿里云人工智能平台PAI全面升级

人工智能平台PAI在4.0版本里,下层是强大的基础设施,中间层“PAI灵骏智算集群”,是专门面向超大规模分布式,重点解决预训练、Finetune、推理等工作。最上层“Model as a Service”概念,能够让不懂算法,但需要应用AI的人进行全链路的AI创新。


PAI助力企业AI创新

人工智能平台PAI将围绕以下三个效率助力企业和开发者进行AI的创新,分别是开发效率、计算效率和业务效率。

提升开发效率:人,最宝贵的资源

AI工程化的工程师人才稀缺且昂贵,工程师从数据进来到整个开发环节再到模型生产上线,大约需要12种工具把整个AI流程走完。

阿里云PAI 全生命周期优化的AI平台

阿里云人工智能平台PAI作为全生命周期优化的AI平台,包含iTAG智能标注、DSW交互式建模、DLC AI训练服务、EAS在线预测服务、AI工作空间、AI资产、OpenAPI等服务,打造一体化全链路的AI工程平台,全面提升行业、产业落地效率

PAI-DSW 交互式建模

PAI平台的Notebook服务全面升级,DSW可以一站式AI开发,开箱即用,异构资源无缝对接,兼顾个人开发者及企业级协作需求,让整个开发过程变得更加高效。

同时我们也看到数据对于AI的重要性,PAI把整个阿里云上的存储都做了无缝对接(OSS、NAS、CPFS),可以很容易的在云上获得做大模型开发的工作的环境。

PAI-DLC 分布式训练

在分布式训练里,大模型变得至关重要,怎么同时用512卡、上千卡做训练,可能很难做分布式这些细节的管理,如果涉及底层复杂软硬件能力可能更不清楚。今天通过DLC分布式训练可以实现单机多卡、多机多卡分布式训练,云原生灵活环境配置,企业级资源管理,快速把相应的模型训练出来。

PAI 模型服务与AI推理

未来,我们认为在模型服务领域,模型的推理一定会成为整个产业的热潮。因为在我们平台上已经看到有几十家做大模型的企业训练出来50B~100B以上的大模型,这些模型日后一定会产业落地。

PAI EAS模型在线服务+Blade推理加速,帮助客户一站式解决AI部署和推理的全部环节。

提升计算效率:机器,如何高效的利用

对于大模型无法逃避的一个问题就是解决机器效率,如何让机器被整个产品和平台疯狂使用,对所有人来说都是巨大的挑战。

PAI灵骏智算服务 - 让大模型训练推理简单、高效

今年我们发布了PAI灵骏计算服务Serverless产品。使得AI的训练推理更快、更易用、更稳定,全面提升AI计算效率。

可以想象一下,当有1024张卡甚至有数千张卡做训练的时候,很难保证系统不出错误,所以我们推出了AI Master自动容错弹性训练。让系统帮你去解决各种各样的问题。对于整个大模型训练过程有巨大的效率提升的作用。

推出EasyCkpt秒级异步训练的快照,可以清楚知道每一个数据在整个显存、内存、缓存中存了多少,硬件或系统出现问题或者时我们不再需要做全局的checkpoint,可以通过EasyCkpt实现秒级训练精度无损的checkpoint,高效帮企业自动把这个问题恢复可执行状态。

TorchAcc和PAI-Blade则是在大规模分布式训练和推理上做的软硬结合优化。

  1. 极致性能:高性能计算、网络、存储支撑的高性能AI集群

专为密集型深度学习业务及LLM/AIGC大模型训练场景打造的高性能集群架构

  1. 极致稳定:软硬结合、协同保障超大规模集群超高稳定性

集大规模集群管理、弹性AI调度、进度无损的模型保存与恢复、自动分布式性能测试于一体的稳定保障体系

  1. 基于PAI-DLC构建的LLM大模型强化学习训练框架RLHF

支持人工反馈的强化学习 RLHF训练框架,快速开发定制LLM

提升业务效率:自带最佳实践,业务落地提速

阿里云是一个自带最佳实践的云,如何基于PAI平台让不懂AI的人快速上手,让没有接触过大模型、没有做过AIGC应用的人快速跟上节奏呢?是我们一直致力于解决的问题。

PAI平台提供了非常丰富的场景化最佳实践方案,把最佳实践产品化方式面向客户,企业开发者们可以通过接入PAI平台一步步体验模型构建的整个过程。

MaaS全链路提效

PAI平台一站式覆盖了AI工程化的全流程,无缝对接ModelScope/Huggingface等开源社区,让算法开发者、应用开发者和业务架构师可以专注、高效的完成创新。

大模型场景化最佳实践

人工智能平台PAI提供全面覆盖大模型生产流程的端到端最佳实践。

智码实验室-Notebook Galley

Notebook Galley上针对热门场景、前沿模型,打造属于开发者的内容平台,让开发者快速学习上手。

Notebook Galley上面现在已经有100多个热门AI的案例,例如:通义系列、Llama2、Stable Diffusion等案例在这上面全都可以一站式云上拉起服务,端到端体验。

为AI提供极致性能、全链路工程覆盖、端到端最佳实践的云上服务

PAI团队持续迭代更新,面向AI、大模型、AGI领域做了三个核心工作:

1、软硬一体协同优化云上基础设施,把高性能网络、高性能存储和高性能计算的能力和编译优化能力、容错训练能力、快速异步checkpoint的能力相结合,提供极致且稳定的环境,供大家可以高效训练大模型。

2、提供了端到端涵盖整个AI工程链路的PaaS平台。

3、提供丰富的场景化最佳实践。

人工智能平台PAI在今后会再这三个领域持续大力构建云上Serverless产品,给开发者提供更加廉价、更加好用的产品力。也希望大家可以借助AIGC这波浪潮,助力业务更好发展!

相关实践学习
使用PAI-EAS一键部署ChatGLM及LangChain应用
本场景中主要介绍如何使用模型在线服务(PAI-EAS)部署ChatGLM的AI-Web应用以及启动WebUI进行模型推理,并通过LangChain集成自己的业务数据。
机器学习概览及常见算法
机器学习(Machine Learning, ML)是人工智能的核心,专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能,它是使计算机具有智能的根本途径,其应用遍及人工智能的各个领域。 本课程将带你入门机器学习,掌握机器学习的概念和常用的算法。
相关文章
|
2月前
|
人工智能 运维 安全
阿里云通过ISO42001人工智能管理认证,引领AI治理推动协同共治
9月19日,在杭州云栖大会「AI治理与安全论坛」上,阿里云宣布通过人工智能技术的全生命周期管理ISO42001体系认证。该项认证由国际标准化组织(ISO)和国际电工委员会(IEC)制定,是第一部可认证的人工智能国际管理体系标准。
127 14
|
30天前
|
机器学习/深度学习 测试技术
阿里云入选Gartner数据科学和机器学习平台挑战者象限
Gartner® 正式发布了《数据科学与机器学习平台魔力象限》报告(Magic Quadrant™ for Data Science and Machine Learning Platforms),阿里云成为唯一一家入选该报告的中国厂商,被评为“挑战者”(Challengers)。
|
13天前
|
机器学习/深度学习 人工智能 自然语言处理
【EMNLP2024】阿里云人工智能平台 PAI 多篇论文入选 EMNLP2024
阿里云人工智能平台 PAI 的多篇论文在 EMNLP2024 上入选。论文成果是阿里云与华南理工大学金连文教授团队、复旦大学王鹏教授团队共同研发。EMNLP 是人工智能自然语言处理领域的顶级国际会议,聚焦于自然语言处理技术在各个应用场景的学术研究,尤其重视自然语言处理的实证研究。该会议曾推动了预训练语言模型、文本挖掘、对话系统、机器翻译等自然语言处理领域的核心创新,在学术和工业界都有巨大的影响力。此次入选标志着阿里云人工智能平台 PAI 在自然语言处理和多模态算法能力方面研究获得了学术界认可。
|
1月前
|
机器学习/深度学习 人工智能 自然语言处理
【MM2024】阿里云 PAI 团队图像编辑算法论文入选 MM2024
阿里云人工智能平台 PAI 团队发表的图像编辑算法论文在 MM2024 上正式亮相发表。ACM MM(ACM国际多媒体会议)是国际多媒体领域的顶级会议,旨在为研究人员、工程师和行业专家提供一个交流平台,以展示在多媒体领域的最新研究成果、技术进展和应用案例。其主题涵盖了图像处理、视频分析、音频处理、社交媒体和多媒体系统等广泛领域。此次入选标志着阿里云人工智能平台 PAI 在图像编辑算法方面的研究获得了学术界的充分认可。
【MM2024】阿里云 PAI 团队图像编辑算法论文入选 MM2024
|
1月前
|
机器学习/深度学习 人工智能 算法
机器学习【教育领域及其平台搭建】
机器学习【教育领域及其平台搭建】
43 7
|
2月前
|
人工智能 JSON 数据格式
RAG+Agent人工智能平台:RAGflow实现GraphRA知识库问答,打造极致多模态问答与AI编排流体验
【9月更文挑战第6天】RAG+Agent人工智能平台:RAGflow实现GraphRA知识库问答,打造极致多模态问答与AI编排流体验
RAG+Agent人工智能平台:RAGflow实现GraphRA知识库问答,打造极致多模态问答与AI编排流体验
|
12天前
|
机器学习/深度学习 人工智能 弹性计算
阿里云AI服务器价格表_GPU服务器租赁费用_AI人工智能高性能计算推理
阿里云AI服务器提供多种配置选项,包括CPU+GPU、CPU+FPGA等组合,支持高性能计算需求。本文汇总了阿里云GPU服务器的价格信息,涵盖NVIDIA A10、V100、T4、P4、P100等多款GPU卡,适用于人工智能、机器学习和深度学习等场景。详细价格表和实例规格见文内图表。
|
2月前
|
机器学习/深度学习 人工智能 算法
【新闻文本分类识别系统】Python+卷积神经网络算法+人工智能+深度学习+计算机毕设项目+Django网页界面平台
文本分类识别系统。本系统使用Python作为主要开发语言,首先收集了10种中文文本数据集("体育类", "财经类", "房产类", "家居类", "教育类", "科技类", "时尚类", "时政类", "游戏类", "娱乐类"),然后基于TensorFlow搭建CNN卷积神经网络算法模型。通过对数据集进行多轮迭代训练,最后得到一个识别精度较高的模型,并保存为本地的h5格式。然后使用Django开发Web网页端操作界面,实现用户上传一段文本识别其所属的类别。
89 1
【新闻文本分类识别系统】Python+卷积神经网络算法+人工智能+深度学习+计算机毕设项目+Django网页界面平台
|
2月前
|
存储 JSON 搜索推荐
“我在云栖大会等你”—来PAI Artlab定格你的云栖记忆!
在云栖大会上,通过PAI Artlab的ComfyUI,轻松生成个性化数字影像。只需几个简单步骤,即可将你的肖像融入大会经典场景,创造独特回忆。快来加入我们,让PAI Artlab为你的云栖之行增添一抹亮色!
|
2月前
|
存储 搜索推荐 云栖大会
我在云栖大会等你——来PAI Artlab定格你的云栖记忆!
要使用PAI ArtLab平台生成个性化图像,请先注册阿里云账号并完成实名认证,然后访问PAI ArtLab并按提示授权开通服务。进入平台后,领取免费试用资源,并通过“ComfyUI”工具上传肖像照片,设定场景和参数,一键生成专属图像。如需调整效果,可修改Seed参数重新生成。平台采用按量计费模式,请确保领取免费资源以避免额外扣费。
66 3

相关产品

  • 人工智能平台 PAI