开发者学习笔记【阿里云人工智能工程师ACA认证(2023版):机器学习PAI-EAS基础】
课程地址:https://edu.aliyun.com/course/3112108/lesson/19259
机器学习PAI-EAS基础
内容介绍:
一、机器学习PAI-EAS概述
二、机器学习PAI-EAS功能特性
三、本章小结
通过交互或拖拽的方式开发完人工智能模型后,该如何将其应用到实际场景中呢?
思路:进行模型部署
一、PAI-EAS的定义
PAI-EAS(Elastic Algorithm Service)
PAI平台的模型在线预测服务
支持异构硬件(CPU/GPU)的模型加载,高吞吐,低延迟
支持大型负责规模的一键部署。实施弹性扩缩容
提供完整的运维监控体系
支持模型服务管理
PAI-EAS的前置知识
对机器学习模型训练运行过程有一定了解
对神经网络模型训练运行过程有一定了解
对分布式系统、GPU硬件有了一定了解
PAI-EAS与自建构部署运行环境对比
比较难度 |
PAI-EAS |
自行构建部署运行环境 |
同时支持CPU、GPU |
支持 |
试用户环境而定 |
一键部署 |
支持 |
不支持 |
与PAI-DSW、PAI-Designer对接 |
支持 |
不支持 |
资源弹性扩展 |
支持 |
自行开发弹性扩展机制 |
版本管理与A/B测试 |
支持 |
自行开发 |
深度学习PAI-EAS必须要有GPU,价格并不便宜
资源弹性扩展中EAS属于阿里云的平台支持且资源扩展性较强,自己定义需要自己构建
版本管理与A/B测试部署环境相对简单
二、机器学习PAI-EAS的功能特性
(1)灵活易用
提供灵活的模型部署方式及服务调用方式,快速打通各种业务需求
与PAI-Designer、PAI-DSW无缝对接,从模型部署到服务运维自然衔接。
(2)异构资源
针对机器学习,深度学习模型不同的特点,一键部署模型至CPU、GPU服务。
(3)弹性高可用
高并发高吞吐,服务毫秒级响应时长
服务资源弹性扩缩,稳定保证线上业务
(4)功能完善
提供丰富的版本管理,回滚失败、A/B Test、实时监控等使用功能。
三、本章小结
PAI平台的概念及其与传统开发方式的比较
PAI平台的优势、功能特性、关键组件
PAI-DSW的定义、组件、优势、功能特性、应用场景
PAI-Designer的定义、组件、优势、功能特性、应用场景
PAI-EAS的定义、功能特性