PAI EAS服务使用eascmd客户端管理 Quick Start

本文涉及的产品
交互式建模 PAI-DSW,5000CU*H 3个月
模型在线服务 PAI-EAS,A10/V100等 500元 1个月
对象存储 OSS,20GB 3个月
简介: 为实现一站式算法应用,PAI针对在线推理场景提供了在线预测服务PAI-EAS(Elastic Algorithm Service),支持基于异构硬件(CPU和GPU)的模型加载和数据请求的实时响应。通过PAI-EAS,您可以将模型快速部署为RESTful API,再通过HTTP请求的方式调用该服务。您也可以使用eascmd命令行方式进行部署管理PAI-EAS服务。本文基于已经训练好的线性回归算法实验为您介绍如何使用eascmd客户端上传文件、创建服务、修改服务配置信息的相关命令演示,以供参考。

Step By Step

  • 1.获取训练好的模型文件的OSS地址并下载保存到本地文件夹
  • 2.下载并认证eas-cmd客户端
  • 3.eascmd客户端操作命令演示

一.获取训练好的模型文件的OSS地址并下载保存到本地文件夹

  • 模型文件保存到本地电脑文件夹

image.png


二.下载并认证eas-cmd客户端


image.png

  • 3.在Windows的命令行中使用阿里云账号的AccessKey进行身份认证

    • 执行以下命令
eascmdwin64.exe config -i <yourAccessKeyID> -k <yourAccessKeySecret>
  • 认证成功后,系统输出如下类似结果
Configuration saved to: /Users/test/.eas/config

lQLPJxbVJslTqMfNAY_NBK-w3dcWIz8_HIEDXksyIoBwAA_1199_399.png


三.eascmd客户端命令使用演示

  • 1.上传文件命令

    • 功能:PAI-EAS为每位用户提供了OSS仓库,通过eascmd的upload命令,您可以直接上传模型或Processor,并获取上传后的OSS地址。
    • 示例:将下载好的模型文件x_model.xml上传至OSS
eascmdwin64 upload D:\download\x_model.xml

image.png

  • 2.创建服务命令

    • 功能:通过create命令创建服务。创建服务时,需要提供资源(模型或Processor)的HTTP或OSS地址,您可以将资源上传至OSS,并获取上传后的OSS地址。
    • 参数:demo1.json表示描述服务相关信息(模型存储位置及资源规格等)的JSON文件示例如下。
{
  "name": "antest_model_xb",
  "generate_token": "true",
  "model_path": "https://XXXX.oss-cn-shanghai.aliyuncs.com/paidemo/x_model.xml",
  "processor": "pmml",
  "metadata": {
    "instance": 1,
    "cpu": 1
  }
}
eascmdwin64 create D:\download\demo1.json

lQLPJxbVN9uKE3zNAo7NBmGw3XuE3Kywy_wDXmcqOoAQAA_1633_654.png

  • PAI控制台查看

lQLPJxbVOhhXDGXNAg3NBr6wHK721K4wpxgDXmrU1kAdAA_1726_525.png


  • 3.修改配置命令

    • 功能:对于Instnace和CPU等metadata信息,可以直接使用modify命令的-D参数进行修改
    • 示例:将Instance数量配置为2,且每个Instance中的CPU为2内存为5GB
    • 未修改前

lQLPJxbVOi-V-I7NAd3NBgawTTFSB9ycdN4DXmr64wD0AA_1542_477.png

eascmdwin64 modify antest_model_xb -D metadata.instance=2 -Dmetadata.cpu=2 -D metadata.memory=5000

1667307004401_2D1F1F84-77D0-4bb4-8962-FDE21EFE27EA.png


  • 修改前和修改后

1667306284671_31FF6822-6B4C-4a09-9EBD-197D90B17988.png


lQLPJxbVPALi5kTNAdjNBeqws0W_onvX8Z8DXm347QAQAA_1514_472.png

  • 4.停止服务命令

    • 功能:通过stop命令可以停止一个运行中的服务。
    • 命令:eascmd stop <service_name>
eascmdwin64 stop antest_model_xb

image.png


image.png


更多参考

eascmd客户端工具
命令使用说明
阿里云机器学习平台PAI使用简明教程(一)

相关实践学习
使用PAI-EAS一键部署ChatGLM及LangChain应用
本场景中主要介绍如何使用模型在线服务(PAI-EAS)部署ChatGLM的AI-Web应用以及启动WebUI进行模型推理,并通过LangChain集成自己的业务数据。
机器学习概览及常见算法
机器学习(Machine Learning, ML)是人工智能的核心,专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能,它是使计算机具有智能的根本途径,其应用遍及人工智能的各个领域。 本课程将带你入门机器学习,掌握机器学习的概念和常用的算法。
目录
相关文章
|
4月前
|
机器学习/深度学习 弹性计算 TensorFlow
在阿里云上打造强大的模型训练服务
随着人工智能技术的迅猛发展,模型训练服务变得愈发关键。阿里云提供了一系列强大的产品,使得在云端轻松搭建、优化和管理模型训练变得更加便捷。本文将详细介绍如何使用阿里云的相关产品构建高效的模型训练服务。
374 0
|
10月前
|
机器学习/深度学习 人工智能 安全
Azure - 机器学习企业级服务概述与介绍
Azure - 机器学习企业级服务概述与介绍
66 0
|
22天前
|
机器学习/深度学习 人工智能 自然语言处理
基于PAI-QuickStart搭建一站式模型训练服务体验
【8月更文挑战第5天】基于PAI-QuickStart搭建一站式模型训练服务体验
67 0
|
4月前
|
人工智能 对象存储 异构计算
AI模型推理服务在Knative中最佳配置实践
Knative和AI结合提供了快速部署、高弹性和低成本的技术优势,对于一些需要频繁变动计算资源的AI应用,如模型推理等尤其明显。那么在Knative上部署AI模型推理时可以遵循这些最佳实践,以提升AI推理服务能力和GPU资源利用率。
|
4月前
|
机器学习/深度学习 人工智能 分布式计算
人工智能平台PAI 操作报错合集之在本地构建easyrec docker镜像时遇到了无法连接docker服务如何解决
阿里云人工智能平台PAI (Platform for Artificial Intelligence) 是阿里云推出的一套全面、易用的机器学习和深度学习平台,旨在帮助企业、开发者和数据科学家快速构建、训练、部署和管理人工智能模型。在使用阿里云人工智能平台PAI进行操作时,可能会遇到各种类型的错误。以下列举了一些常见的报错情况及其可能的原因和解决方法。
|
4月前
|
机器学习/深度学习 人工智能 API
人工智能平台PAI产品使用合集之机器学习PAI-EAS部署好后,服务的公网API和URL怎么配置
阿里云人工智能平台PAI是一个功能强大、易于使用的AI开发平台,旨在降低AI开发门槛,加速创新,助力企业和开发者高效构建、部署和管理人工智能应用。其中包含了一系列相互协同的产品与服务,共同构成一个完整的人工智能开发与应用生态系统。以下是对PAI产品使用合集的概述,涵盖数据处理、模型开发、训练加速、模型部署及管理等多个环节。
|
4月前
|
机器学习/深度学习 TensorFlow 算法框架/工具
机器学习PAI报错问题之EAS服务器报错如何解决
人工智能平台PAI是是面向开发者和企业的机器学习/深度学习工程平台,提供包含数据标注、模型构建、模型训练、模型部署、推理优化在内的AI开发全链路服务;本合集将收录PAI常见的报错信息和解决策略,帮助用户迅速定位问题并采取相应措施,确保机器学习项目的顺利推进。
|
4月前
|
机器学习/深度学习 存储 人工智能
机器学习PAI endpoint确实是您服务的公网URL
机器学习PAI endpoint确实是您服务的公网URL
121 2
|
4月前
|
机器学习/深度学习 存储 搜索推荐
利用机器学习算法改善电商推荐系统的效率
电商行业日益竞争激烈,提升用户体验成为关键。本文将探讨如何利用机器学习算法优化电商推荐系统,通过分析用户行为数据和商品信息,实现个性化推荐,从而提高推荐效率和准确性。
198 14
|
4月前
|
机器学习/深度学习 算法 搜索推荐
Machine Learning机器学习之决策树算法 Decision Tree(附Python代码)
Machine Learning机器学习之决策树算法 Decision Tree(附Python代码)