开发者学堂课程【PAL 平台学习路线:机器学习入门到应用:在 PAI-EAS 中通过 VPC 高速直连调用】学习笔记,与课程紧密联系,让用户快速学习知识。
课程地址:https://developer.aliyun.com/learning/course/855/detail/14242
在 PAI-EAS 中通过 VPC 高速直连调用
内容介绍
一、简述 VPC 高速直连
二、开通实现 VPC 高速直连调用的步骤
一、前提条件
1.在 EAS 在线服务中,对服务进行调用的三种方式:
公网调用
VPC 地址调用
VPC 高速直连调用
2.通过示意图讲解 VPC 高速直连调用和其他俩种调用的区别:
上图有两个 VPC (User 和 PAI EAS):
User 是用户自己的 VPC 的一些服务
PAI EAS 是用户创建好的 EAS 的在线服务,这些服务在 EAS 的官方 VPC 中。
如果一个普通用户,通过公网地址来请求 PAI EAS 的 服务,要通过公网地址请求的网络链路过公网访问,还有通过API 网关,才能够访问到 PAI EAS 的服务。
如果用地址调用,需要通过一个地址,然后逐个访问该地址EAS的逐个的实例。
3.如果通过高速直连调用可以直接访问具体的某一个 EAS 服务上的实例的优点:
(1)开通 VPC 高速直连后,无需通过网关访问服务,绕过了四层 SLB 和七层的网络转发,直连到 EAS 的 lnstance 中去,可以在 VPC 中直接访问 PAl-EAS 实例
(2)大大的提高了访问的效率,对于高 QPS 大流量的服务(如图像服务)极大的提升访问性能和延时。
(3)内置 RPC 实现了 HTTP 相关的协议栈,整个链路缩短到最短
4.服务原理:
(1)网络打通:
为 PAl-EAS 授权后,系统会在用户自己的 VPC 上的交换机和安全组上创建弹性网卡(免费〉,因为弹性网卡会占用交换机中的网段地址,所以请确保交换机的剩余网段 IP 充裕。对于专属资源组中的实例,PAl-EAS 会为每个实例创建一张弹性网卡,并将其与该实例绑定,从而实现在用户的 VPC 中访问 PAI-EAS VPC 中的实例。结合(2)服务发现;
(2)服务发现:
EAS 里部署好的每个服务上的每个实例会有对应的访问的 ip 和端口;
在专属资源组中部署服务后,系统会根据用户申请的资源数量,为该服务创建对应的 PAl-EA S实例(区别于专属资源组实例,可以理解为一个进程)。
系统为每个 PA-EAS 实例在专属资源组节点自动分配一个端口,用户可以通过专属资源组节点挂载的弹性网卡IP和该端口号,直接访问服务进程。PAl-EAS 提供服务发现机制,可以定期查询或更新服务所对应的 rP:PORT 列表,详情请参见VPC高速直连调用。
有了网络打通和服务发现,可以实现在用户自己 VPC 里直接通过网卡访问 P AI EAS 的 VPC 里每个服务上的每个实例的端口,从而实现 VPC 高速直连调用的高效的调用.
二、开通实现 VPC 高速直连调用的步骤
1.VPC 高速直连的文档中介绍了原理和优势
可参阅机器学习 PAI->模型在线服务->VPC 高速直连
找到这篇文档详细阅读,文档下会有开通 VPC 高速直连的方式。
2. 开通 VPC 高速直连,需要为 PAl-EAS 授权相关权限(参见授权〉,并指定待连通 VPC 环境中的交换机(vSwitch)和安全组(SecurityGroup)。网络连通后,该 VPC 环境中的 ECS 服务器即可通过创建的弹性网卡访问 PA-EAS专属资源组内的服务器。
3.demo 演示:
(1)进入 PAI EAS 模型在线服务页面。
登录 PAI EAS 控制台。
在左侧导航栏,选择模型部著->模型在线服务(EAS),可进入控制台
(2)控制台上方是资源组列表,下方是模型服务列表,开通模型服务的VPC 高速直,应在资源组做开通,因为每个服务都运营在一定的硬件资源上,所以开通 VPC 高速直连是针对计算资源做高速直连的开通,所以要找到这个模型服务所对应的运行的资源。
(3)例如某一个服务 A 所建的运营在某个资源组上,找到该资源组,单击待查看资源组的资源组 ID /名称到该资源组详情页内;
(4)在资源组详情页面,开通 VPC 高速直连。
页面上方有资源组 VPC 直连开通的功能,点击按钮
在开通 VPC 直连通道对话框,选择 vPC、交换机及安全组名称(填写自己VPC的信息),可以实现用户自己VPC 和 PAl-EAS 的打通,将 VPC、交换机及安全组名称选择好之后,单击确认。
开通成功,开通的结果会在一分钟之内生效
可看资源组 VPC 直连按钮已经变绿,
通过上述开通步骤实现了在用户所在 VPC 里安装弹性网卡的操作,从而实现网络的直连。
(5)关掉 VPC 直连:
点击资源组 VPC 直连按钮,弹出下图,关闭之前应了解关闭后将无法继续使用该资源组上 EAS 服务的高速直连调用及VPC内其他服务的互相调用,当确认可以终止后,点击确认关闭
关闭之后,仍旧可以打开,或者更改更改想要连接的VPC、交换机及安全组名称。