PAI EAS服务使用eascmd客户端管理 Quick Start

本文涉及的产品
模型在线服务 PAI-EAS,A10/V100等 500元 1个月
对象存储 OSS,20GB 3个月
模型训练 PAI-DLC,5000CU*H 3个月
简介: 为实现一站式算法应用,PAI针对在线推理场景提供了在线预测服务PAI-EAS(Elastic Algorithm Service),支持基于异构硬件(CPU和GPU)的模型加载和数据请求的实时响应。通过PAI-EAS,您可以将模型快速部署为RESTful API,再通过HTTP请求的方式调用该服务。您也可以使用eascmd命令行方式进行部署管理PAI-EAS服务。本文基于已经训练好的线性回归算法实验为您介绍如何使用eascmd客户端上传文件、创建服务、修改服务配置信息的相关命令演示,以供参考。

Step By Step

  • 1.获取训练好的模型文件的OSS地址并下载保存到本地文件夹
  • 2.下载并认证eas-cmd客户端
  • 3.eascmd客户端操作命令演示

一.获取训练好的模型文件的OSS地址并下载保存到本地文件夹

  • 模型文件保存到本地电脑文件夹

image.png


二.下载并认证eas-cmd客户端


image.png

  • 3.在Windows的命令行中使用阿里云账号的AccessKey进行身份认证

    • 执行以下命令
eascmdwin64.exe config -i <yourAccessKeyID> -k <yourAccessKeySecret>
  • 认证成功后,系统输出如下类似结果
Configuration saved to: /Users/test/.eas/config

lQLPJxbVJslTqMfNAY_NBK-w3dcWIz8_HIEDXksyIoBwAA_1199_399.png


三.eascmd客户端命令使用演示

  • 1.上传文件命令

    • 功能:PAI-EAS为每位用户提供了OSS仓库,通过eascmd的upload命令,您可以直接上传模型或Processor,并获取上传后的OSS地址。
    • 示例:将下载好的模型文件x_model.xml上传至OSS
eascmdwin64 upload D:\download\x_model.xml

image.png

  • 2.创建服务命令

    • 功能:通过create命令创建服务。创建服务时,需要提供资源(模型或Processor)的HTTP或OSS地址,您可以将资源上传至OSS,并获取上传后的OSS地址。
    • 参数:demo1.json表示描述服务相关信息(模型存储位置及资源规格等)的JSON文件示例如下。
{
  "name": "antest_model_xb",
  "generate_token": "true",
  "model_path": "https://XXXX.oss-cn-shanghai.aliyuncs.com/paidemo/x_model.xml",
  "processor": "pmml",
  "metadata": {
    "instance": 1,
    "cpu": 1
  }
}
eascmdwin64 create D:\download\demo1.json

lQLPJxbVN9uKE3zNAo7NBmGw3XuE3Kywy_wDXmcqOoAQAA_1633_654.png

  • PAI控制台查看

lQLPJxbVOhhXDGXNAg3NBr6wHK721K4wpxgDXmrU1kAdAA_1726_525.png


  • 3.修改配置命令

    • 功能:对于Instnace和CPU等metadata信息,可以直接使用modify命令的-D参数进行修改
    • 示例:将Instance数量配置为2,且每个Instance中的CPU为2内存为5GB
    • 未修改前

lQLPJxbVOi-V-I7NAd3NBgawTTFSB9ycdN4DXmr64wD0AA_1542_477.png

eascmdwin64 modify antest_model_xb -D metadata.instance=2 -Dmetadata.cpu=2 -D metadata.memory=5000

1667307004401_2D1F1F84-77D0-4bb4-8962-FDE21EFE27EA.png


  • 修改前和修改后

1667306284671_31FF6822-6B4C-4a09-9EBD-197D90B17988.png


lQLPJxbVPALi5kTNAdjNBeqws0W_onvX8Z8DXm347QAQAA_1514_472.png

  • 4.停止服务命令

    • 功能:通过stop命令可以停止一个运行中的服务。
    • 命令:eascmd stop <service_name>
eascmdwin64 stop antest_model_xb

image.png


image.png


更多参考

eascmd客户端工具
命令使用说明
阿里云机器学习平台PAI使用简明教程(一)

相关实践学习
使用PAI-EAS一键部署ChatGLM及LangChain应用
本场景中主要介绍如何使用模型在线服务(PAI-EAS)部署ChatGLM的AI-Web应用以及启动WebUI进行模型推理,并通过LangChain集成自己的业务数据。
机器学习概览及常见算法
机器学习(Machine Learning, ML)是人工智能的核心,专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能,它是使计算机具有智能的根本途径,其应用遍及人工智能的各个领域。 本课程将带你入门机器学习,掌握机器学习的概念和常用的算法。
目录
相关文章
|
3月前
|
前端开发 开发者 设计模式
揭秘Uno Platform状态管理之道:INotifyPropertyChanged、依赖注入、MVVM大对决,帮你找到最佳策略!
【8月更文挑战第31天】本文对比分析了 Uno Platform 中的关键状态管理策略,包括内置的 INotifyPropertyChanged、依赖注入及 MVVM 框架。INotifyPropertyChanged 方案简单易用,适合小型项目;依赖注入则更灵活,支持状态共享与持久化,适用于复杂场景;MVVM 框架通过分离视图、视图模型和模型,使状态管理更清晰,适合大型项目。开发者可根据项目需求和技术栈选择合适的状态管理方案,以实现高效管理。
42 0
|
3月前
|
机器学习/深度学习 TensorFlow 算法框架/工具
TensorFlow Serving 部署指南超赞!让机器学习模型上线不再困难,轻松开启高效服务之旅!
【8月更文挑战第31天】TensorFlow Serving是一款高性能开源服务系统,专为部署机器学习模型设计。本文通过代码示例详细介绍其部署流程:从安装TensorFlow Serving、训练模型到配置模型服务器与使用gRPC客户端调用模型,展示了一站式模型上线解决方案,使过程变得简单高效。借助该工具,你可以轻松实现模型的实际应用。
44 0
|
3月前
|
机器学习/深度学习 人工智能 自然语言处理
基于PAI-QuickStart搭建一站式模型训练服务体验
【8月更文挑战第5天】基于PAI-QuickStart搭建一站式模型训练服务体验
122 0
|
6月前
|
人工智能 对象存储 异构计算
AI模型推理服务在Knative中最佳配置实践
Knative和AI结合提供了快速部署、高弹性和低成本的技术优势,对于一些需要频繁变动计算资源的AI应用,如模型推理等尤其明显。那么在Knative上部署AI模型推理时可以遵循这些最佳实践,以提升AI推理服务能力和GPU资源利用率。
|
6月前
|
机器学习/深度学习 人工智能 分布式计算
人工智能平台PAI 操作报错合集之在本地构建easyrec docker镜像时遇到了无法连接docker服务如何解决
阿里云人工智能平台PAI (Platform for Artificial Intelligence) 是阿里云推出的一套全面、易用的机器学习和深度学习平台,旨在帮助企业、开发者和数据科学家快速构建、训练、部署和管理人工智能模型。在使用阿里云人工智能平台PAI进行操作时,可能会遇到各种类型的错误。以下列举了一些常见的报错情况及其可能的原因和解决方法。
|
6月前
|
机器学习/深度学习 人工智能 API
人工智能平台PAI产品使用合集之机器学习PAI-EAS部署好后,服务的公网API和URL怎么配置
阿里云人工智能平台PAI是一个功能强大、易于使用的AI开发平台,旨在降低AI开发门槛,加速创新,助力企业和开发者高效构建、部署和管理人工智能应用。其中包含了一系列相互协同的产品与服务,共同构成一个完整的人工智能开发与应用生态系统。以下是对PAI产品使用合集的概述,涵盖数据处理、模型开发、训练加速、模型部署及管理等多个环节。
|
6月前
|
机器学习/深度学习 TensorFlow 算法框架/工具
机器学习PAI报错问题之EAS服务器报错如何解决
人工智能平台PAI是是面向开发者和企业的机器学习/深度学习工程平台,提供包含数据标注、模型构建、模型训练、模型部署、推理优化在内的AI开发全链路服务;本合集将收录PAI常见的报错信息和解决策略,帮助用户迅速定位问题并采取相应措施,确保机器学习项目的顺利推进。
|
6月前
|
机器学习/深度学习 存储 人工智能
机器学习PAI endpoint确实是您服务的公网URL
机器学习PAI endpoint确实是您服务的公网URL
128 2
|
1月前
|
机器学习/深度学习 人工智能 自然语言处理
【MM2024】阿里云 PAI 团队图像编辑算法论文入选 MM2024
阿里云人工智能平台 PAI 团队发表的图像编辑算法论文在 MM2024 上正式亮相发表。ACM MM(ACM国际多媒体会议)是国际多媒体领域的顶级会议,旨在为研究人员、工程师和行业专家提供一个交流平台,以展示在多媒体领域的最新研究成果、技术进展和应用案例。其主题涵盖了图像处理、视频分析、音频处理、社交媒体和多媒体系统等广泛领域。此次入选标志着阿里云人工智能平台 PAI 在图像编辑算法方面的研究获得了学术界的充分认可。
【MM2024】阿里云 PAI 团队图像编辑算法论文入选 MM2024
|
18天前
|
机器学习/深度学习 算法 Java
机器学习、基础算法、python常见面试题必知必答系列大全:(面试问题持续更新)
机器学习、基础算法、python常见面试题必知必答系列大全:(面试问题持续更新)
下一篇
无影云桌面