机器学习PAI endpoint就是服务的公网URL吧,只要我自己代码里做好API接口就行,部署后平台自动就生成我项目API对应的公网url了吗?还有怎么把自己的项目部署到EAS上,有文件说明吗 ?目前项目在本地电脑
是的,参考下文档,我们建议打成docker自定义镜像部署 https://help.aliyun.com/zh/pai/user-guide/service-deployment/?spm=a2c4g.11186623.0.0.70d96b5eSGQsJC,此回答整理自钉群“机器学习PAI交流群(答疑@值班)”
是的
EAS一键部署HuggingFace&ModelScope服务应用https://help.aliyun.com/zh/pai/use-cases/deploy-huggingface-and-modelscope-service-applications-with-one-click-of?spm=a2c4g.11186623.0.i96
EAS提供了预置镜像以部署社区模型,并针对模型分发和镜像拉起做了加速机制。您只需配置几个参数就可以将社区模型一键快捷的部署到EAS模型在线服务平台。本文为您介绍如何部署HuggingFace和ModelScope的社区模型。
背景信息
当前,开放的模型社区(例如 huggingface、modelscope )提供了大量的机器学习模型和代码实现,其对应库的接口将模型、框架以及相关的处理逻辑进行了封装,您仅需使用几行代码即可直接端到端进行模型训练和调用等操作,无需考虑复杂的环境依赖、预处理后处理逻辑、框架类型等一系列使用和部署落地模型时的问题。这种生态也是对以Tensorflow、Pytorch为代表的框架-模型形态的升级。
EAS也对该形态进行了优化支持,支持您一键部署社区模型。
部署HuggingFace模型
PAI支持将HuggingFace社区官方库中的tasks对应的模型快速部署为EAS模型在线服务,具体操作步骤如下:
在官方库tasks中选择要部署的模型,本文以文本分类模型为例,进入distilbert-base-uncased-finetuned-sst-2-english模型页面,分别获取下图中的MODEL_ID(模型ID)、TASK(模型对应的TASK)、REVISION(模型版本)的值并保存到本地。
在EAS模型在线服务页面,部署HuggingFace模型。
进入部署服务页面,配置以下关键参数,其他参数配置详情,请参见服务部署:控制台。
调用已部署成功的模型服务。
在PAI-EAS模型在线服务页面,单击服务方式列下的查看Web应用,在WebUI页面验证模型推理效果。
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。
人工智能平台 PAI(Platform for AI,原机器学习平台PAI)是面向开发者和企业的机器学习/深度学习工程平台,提供包含数据标注、模型构建、模型训练、模型部署、推理优化在内的AI开发全链路服务,内置140+种优化算法,具备丰富的行业场景插件,为用户提供低门槛、高性能的云原生AI工程化能力。