在 PAI-EAS 中通过 VPC 高速直连调用|学习笔记

本文涉及的产品
模型训练 PAI-DLC,5000CU*H 3个月
模型在线服务 PAI-EAS,A10/V100等 500元 1个月
交互式建模 PAI-DSW,每月250计算时 3个月
简介: 快速学习在 PAI-EAS 中通过 VPC 高速直连调用。

开发者学堂课程【PAL 平台学习路线:机器学习入门到应用:在 PAI-EAS 中通过 VPC 高速直连调用】学习笔记,与课程紧密联系,让用户快速学习知识。

课程地址:https://developer.aliyun.com/learning/course/855/detail/14242


在 PAI-EAS 中通过 VPC 高速直连调用

 

内容介绍

一、简述 VPC 高速直连

二、开通实现 VPC 高速直连调用的步骤

  

一、前提条件

1.在 EAS 在线服务中,对服务进行调用的三种方式:

公网调用

VPC 地址调用

VPC 高速直连调用

2.通过示意图讲解 VPC 高速直连调用和其他俩种调用的区别:

image.png

上图有两个 VPC (User 和 PAI EAS): 

User 是用户自己的 VPC 的一些服务

PAI EAS 是用户创建好的 EAS 在线服务这些服务 EAS 的官方 VPC

如果一个普通用户,通过公网地址来请求 PAI EAS  服务,要通过公网地址请求的网络链路公网访问,还有通过API 网关才能够访问到 PAI EAS 的服务。

如果用地址调用,需要通过一个地址,然后逐个访问地址EAS逐个的实例


3.如果通过高速直连调用可以直接访问具体的某一个 EAS 服务上的实例的优点:

(1)开通 VPC 高速直连后,无需通过网关访问服务,绕过了四层 SLB 和七层的网络转发,直连到 EAS  lnstance 中去可以在 VPC 中直接访问 PAl-EAS 实例

(2)大大的提高了访问的效率对于高 QPS 大流量的服务(如图像服务)极大的提升访问性能和延时。

(3)内置 RPC 实现了 HTTP 相关的协议栈,整个链路缩短到最短 

4.服务原理:

(1)网络打通

为 PAl-EAS 授权后,系统会在用户自己的 VPC 上的交换机和安全组上创建弹性网卡(免费〉因为弹性网卡会占用交换机中的网段地址,所以请确保交换机的剩余网段 IP 充裕。对于专属资源组中的实例,PAl-EAS 会为每个实例创建一张弹性网卡,并将其与该实例绑定,从而实现在用户的 VPC 中访问 PAI-EAS VPC 中的实例。结合(2)务发现;

(2)服务发现:

EAS 部署好的每个服务上的每个实例会有对应访问的 ip 和端口

在专属资源组中部署服务后,系统会根据用户申请的资源数量,为该服务创建对应的 PAl-EA S实例(区别于专属资源组实例,可以理解为一个进程)。

系统为每个 PA-EAS 实例在专属资源组节点自动分配一个端口,用户可以通过专属资源组节点挂载的弹性网卡IP和该端口号,直接访问服务进程。PAl-EAS 提供服务发现机制,可以定期查询或更新服务所对应的 rP:PORT 列表,详情请参见VPC高速直连调用。

有了网络打通和服务发现,可以实现在用户自己 VPC 里直接通过网卡访问 P AI EAS 的 VPC 里每个服务上的每个实例口,从而实现 VPC 高速直连调用的高效的调用. 

 

二、开通实现 VPC 高速直连调用的步骤

1.VPC 高速直连文档中介绍了原理和优势

可参阅机器学习 PAI->模型在线服务->VPC 高速直连

找到这篇文档详细阅读,文档下会有开通 VPC 高速直连的方式。

2. 开通 VPC 高速直连,需要为 PAl-EAS 授权相关权限(参见授权〉,并指定待连通 VPC 环境中的交换机(vSwitch)和安全组(SecurityGroup)。网络连通后,该 VPC 环境中的 ECS 服务器即可通过创建的弹性网卡访问 PA-EAS专属资源组内的服务器。

3.demo 演示:

(1)进入 PAI EAS 模型在线服务页面。

登录 PAI EAS 控制台。

在左侧导航栏,选择模型部著->模型在线服务(EAS)可进入控制台

(2)控制台上方是资源组列表,下方是模型服务列表,开通模型服务的VPC 高速直,应在资源组做开通,因为每个服务都运营在一定的硬件资源上,所以开通 VPC 高速直连是针对计算资源高速直连的开通,所以要找到这个模型服务所对应的运行的资源。

(3)例如某一个服务 A 所建的运营在某个资源组上,找到资源组,单击待查看资源组的资源组 ID /名称到资源组详情页内;

image.png

(4)在资源组详情页面,开通 VPC 高速直连。

页面上方有资源组 VPC 直连开通的功能,点击按钮

在开通 VPC 直连通道对话框,选择 vPC、交换机及安全组名称填写自己VPC的信息),可以实现用户自己VPC 和 PAl-EAS 的打通,将 VPC、交换机及安全组名称选择好之后,单击确认。

 image.png

开通成功开通的结果会在一分钟之内生效

可看资源组 VPC 直连按钮已经变绿,

通过上述开通步骤实现了在用户所在 VPC 里安装弹性网卡的操作,从而实现网络的直连

(5)关掉 VPC 直连

点击资源组 VPC 直连按钮弹出下图,关闭之前应了解关闭后将无法继续使用该资源组上 EAS 服务的高速直连调用及VPC内其他服务的互相调用当确认可以终止后,点击确认关闭

关闭之后,仍旧可以打开,或者更改更改想要连接的VPC、交换机及安全组名称

相关文章
|
机器学习/深度学习 编解码 计算机视觉
Python机器学习和图像处理学习笔记
Python机器学习和图像处理学习笔记
|
机器学习/深度学习 算法
学习笔记: 机器学习经典算法-决策边界(decision boundary)
机器学习经典算法-个人笔记和学习心得分享
811 0
学习笔记: 机器学习经典算法-决策边界(decision boundary)
|
机器学习/深度学习 算法 搜索推荐
【吴恩达机器学习笔记】十五、大规模机器学习
【吴恩达机器学习笔记】十五、大规模机器学习
88 0
|
机器学习/深度学习 算法
【吴恩达机器学习笔记】九、机器学习系统的设计
【吴恩达机器学习笔记】九、机器学习系统的设计
88 0
|
机器学习/深度学习 算法
【吴恩达机器学习笔记】八、应用机器学习的建议
【吴恩达机器学习笔记】八、应用机器学习的建议
109 0
|
机器学习/深度学习 算法 前端开发
学习笔记: 机器学习经典算法-集成学习策略
机器学习经典算法-个人笔记和学习心得分享
201 0
|
机器学习/深度学习 算法 Python
学习笔记: 机器学习经典算法-决策树(Decision Tress)
机器学习经典算法-个人笔记和学习心得分享
194 0
|
机器学习/深度学习 资源调度 算法
学习笔记: 机器学习经典算法-核SVM(KernelSVM)
机器学习经典算法-个人笔记和学习心得分享
142 0
|
机器学习/深度学习 资源调度 算法
学习笔记: 机器学习经典算法-线性SVM(LinearSVM)
机器学习经典算法-个人笔记和学习心得分享
146 0
|
机器学习/深度学习 算法
学习笔记: 机器学习经典算法-空间内一点到超平面的距离推广公式
机器学习经典算法-个人笔记和学习心得分享
149 0
下一篇
无影云桌面