PAI EAS服务使用eascmd客户端管理 Quick Start

本文涉及的产品
交互式建模 PAI-DSW,5000CU*H 3个月
对象存储 OSS,20GB 3个月
对象存储 OSS,内容安全 1000次 1年
简介: 为实现一站式算法应用,PAI针对在线推理场景提供了在线预测服务PAI-EAS(Elastic Algorithm Service),支持基于异构硬件(CPU和GPU)的模型加载和数据请求的实时响应。通过PAI-EAS,您可以将模型快速部署为RESTful API,再通过HTTP请求的方式调用该服务。您也可以使用eascmd命令行方式进行部署管理PAI-EAS服务。本文基于已经训练好的线性回归算法实验为您介绍如何使用eascmd客户端上传文件、创建服务、修改服务配置信息的相关命令演示,以供参考。

Step By Step

  • 1.获取训练好的模型文件的OSS地址并下载保存到本地文件夹
  • 2.下载并认证eas-cmd客户端
  • 3.eascmd客户端操作命令演示

一.获取训练好的模型文件的OSS地址并下载保存到本地文件夹

  • 模型文件保存到本地电脑文件夹

image.png


二.下载并认证eas-cmd客户端


image.png

  • 3.在Windows的命令行中使用阿里云账号的AccessKey进行身份认证

    • 执行以下命令
eascmdwin64.exe config -i <yourAccessKeyID> -k <yourAccessKeySecret>
  • 认证成功后,系统输出如下类似结果
Configuration saved to: /Users/test/.eas/config

lQLPJxbVJslTqMfNAY_NBK-w3dcWIz8_HIEDXksyIoBwAA_1199_399.png


三.eascmd客户端命令使用演示

  • 1.上传文件命令

    • 功能:PAI-EAS为每位用户提供了OSS仓库,通过eascmd的upload命令,您可以直接上传模型或Processor,并获取上传后的OSS地址。
    • 示例:将下载好的模型文件x_model.xml上传至OSS
eascmdwin64 upload D:\download\x_model.xml

image.png

  • 2.创建服务命令

    • 功能:通过create命令创建服务。创建服务时,需要提供资源(模型或Processor)的HTTP或OSS地址,您可以将资源上传至OSS,并获取上传后的OSS地址。
    • 参数:demo1.json表示描述服务相关信息(模型存储位置及资源规格等)的JSON文件示例如下。
{
  "name": "antest_model_xb",
  "generate_token": "true",
  "model_path": "https://XXXX.oss-cn-shanghai.aliyuncs.com/paidemo/x_model.xml",
  "processor": "pmml",
  "metadata": {
    "instance": 1,
    "cpu": 1
  }
}
eascmdwin64 create D:\download\demo1.json

lQLPJxbVN9uKE3zNAo7NBmGw3XuE3Kywy_wDXmcqOoAQAA_1633_654.png

  • PAI控制台查看

lQLPJxbVOhhXDGXNAg3NBr6wHK721K4wpxgDXmrU1kAdAA_1726_525.png


  • 3.修改配置命令

    • 功能:对于Instnace和CPU等metadata信息,可以直接使用modify命令的-D参数进行修改
    • 示例:将Instance数量配置为2,且每个Instance中的CPU为2内存为5GB
    • 未修改前

lQLPJxbVOi-V-I7NAd3NBgawTTFSB9ycdN4DXmr64wD0AA_1542_477.png

eascmdwin64 modify antest_model_xb -D metadata.instance=2 -Dmetadata.cpu=2 -D metadata.memory=5000

1667307004401_2D1F1F84-77D0-4bb4-8962-FDE21EFE27EA.png


  • 修改前和修改后

1667306284671_31FF6822-6B4C-4a09-9EBD-197D90B17988.png


lQLPJxbVPALi5kTNAdjNBeqws0W_onvX8Z8DXm347QAQAA_1514_472.png

  • 4.停止服务命令

    • 功能:通过stop命令可以停止一个运行中的服务。
    • 命令:eascmd stop <service_name>
eascmdwin64 stop antest_model_xb

image.png


image.png


更多参考

eascmd客户端工具
命令使用说明
阿里云机器学习平台PAI使用简明教程(一)

相关实践学习
使用PAI-EAS一键部署ChatGLM及LangChain应用
本场景中主要介绍如何使用模型在线服务(PAI-EAS)部署ChatGLM的AI-Web应用以及启动WebUI进行模型推理,并通过LangChain集成自己的业务数据。
机器学习概览及常见算法
机器学习(Machine Learning, ML)是人工智能的核心,专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能,它是使计算机具有智能的根本途径,其应用遍及人工智能的各个领域。 本课程将带你入门机器学习,掌握机器学习的概念和常用的算法。
目录
相关文章
|
3月前
|
机器学习/深度学习 人工智能 安全
Azure - 机器学习企业级服务概述与介绍
Azure - 机器学习企业级服务概述与介绍
30 0
|
2月前
|
机器学习/深度学习 存储 人工智能
机器学习PAI endpoint确实是您服务的公网URL
机器学习PAI endpoint确实是您服务的公网URL
97 2
|
5月前
|
存储 机器学习/深度学习 分布式计算
基于PAI-EAS挂载OSS部署AIGC服务
本场景中主要介绍如何使用模型在线服务(PAI-EAS)部署AIGC,例如Diffusion文图生成模型,并利用OSS挂载功能,使用户无需担心因为PAI服务停止或删除导致数据丢失的问题,充分解决AI服务持久化存储与扩容需求。
774 0
基于PAI-EAS挂载OSS部署AIGC服务
|
6月前
|
机器学习/深度学习 自然语言处理 专有云
阿里云的机器学习平台提供了名为"文本分类"的服务
阿里云的机器学习平台提供了名为"文本分类"的服务
236 1
|
7月前
|
存储 机器学习/深度学习 文件存储
在PAI-EAS(阿里云机器学习平台扩展智能计算服务)上使用存储在NAS中的模型
在PAI-EAS(阿里云机器学习平台扩展智能计算服务)上使用存储在NAS中的模型
202 0
|
9月前
|
机器学习/深度学习 存储 人工智能
《阿里云AI产品必知必会系列电子书》——机器学习平台PAI——DSW Quick Start使用教程(上)
《阿里云AI产品必知必会系列电子书》——机器学习平台PAI——DSW Quick Start使用教程(上)
668 1
|
9月前
|
机器学习/深度学习 人工智能 算法
《阿里云AI产品必知必会系列电子书》——机器学习平台PAI——DSW Quick Start使用教程(下)
《阿里云AI产品必知必会系列电子书》——机器学习平台PAI——DSW Quick Start使用教程(下)
499 0
|
9月前
|
机器学习/深度学习 人工智能 对象存储
《阿里云AI产品必知必会系列电子书》——机器学习平台PAI——EAS Quick Start使用教程
《阿里云AI产品必知必会系列电子书》——机器学习平台PAI——EAS Quick Start使用教程
537 0
|
1月前
|
机器学习/深度学习 算法 数据挖掘
讲解机器学习中的 K-均值聚类算法及其优缺点。
讲解机器学习中的 K-均值聚类算法及其优缺点。
|
1月前
|
机器学习/深度学习 算法 数据挖掘
机器学习中的 K-均值聚类算法及其优缺点
机器学习中的 K-均值聚类算法及其优缺点
107 0