一、背景
最初遇到这个问题是去58面试。部门领导是原同事,所以面试比较水。水到什么程度呢?
面试就是走个形式而已,不会不过的。
一面面试官就问了一个问题:“一个请求过来都经过了什么?” 剩下的全是闲聊。顺便展示一下公司和部门的优势。期待加入的意思。
声明
面试如此之松是基于两点:
第一点,与原同事多年的共事已经展示了能力和综合素质,比几个小时的面试得到的结论靠谱的多。
第二点,原同事本身认人识人的能力得到了其他人的认可,所以大家放心他推荐的人。
毕竟没人愿意让一个不合适的人加入自己团队拉低整体水准。
二、问题考察点
深度和广度的综合考察
三、静儿的答案
建立虚拟场景
☆ 项目
容器调度服务(根据用户传入的机房、CPU、内存等信息给用户创建所需要的机器)。
项目所用技术栈:SpringBoot、Thrift、缓存、mysql、k8s
☆ 需求
程序中需要用thrift(RPC调用)请求基础服务取所有的机房信息。
☆ 设计
基础服务提供了「傻瓜式」客户端给调用方。客户端只需要引入jar包,就可以像调用本地接口一样进行访问。
客户端实现方法
因为机房信息是低频的、对变更一定时延不敏感的资源信息。所以客户端首先RPC去远程取结果放到本地JVM缓存中。每次调用直接返回JVM缓存信息。客户端有定时任务定时将最新结果刷新到JVM缓存。
设计特点:
1、对thrift接口做封装,封装包括设定了远程获取异常的重试次数、重试间隔、远程服务信息等。原因:基础服务提供方自己最清楚自己服务的响应时间、服务可用性等信息,自己设置更为精确,避免对使用方造成困扰。
2、每次返回本地JVM存的机房信息。信息更新通过自带定时任务。原因:基础服务提供方自己最清楚自己的资源被更新频率如何,提供数据的实时性重要性如何。怎么保持数据一致性。怎样更高效。这些难题不应该抛给调用方。
3、懒加载处理。原因:不能因为jar包被引用就直接占用内存、CPU等资源。要按需提供。
服务端实现方法
服务端收到请求,考虑到这个是基础服务,使用方多。为了防止压力直接作用于数据库,上面加了一层集中式缓存。不穿透的情况下,直接返回缓存信息。
数据库中的所有机房信息是从k8s标签中获取过滤的。有变化直接刷缓存。即数据库中存的是所有的标签信息,其中一个小功能是从所有标签中过滤机房标签。这种设计是区别于有个机房管理系统录入这种管理,机房信息永远是实时准确的。(这块涉及到内部系统的设计问题,如果看不懂直接忽略即可。)
☆ 请求过来经过了什么
从程序设计上,大体经过的如上图。限于篇幅(如果你想了解不限于篇幅是个什么状态,可以阅读下面一篇《一个请求过来都经过了什么?(2017年http版)》),本篇不讲JVM经过了怎样的过程,主内存和工作内存交互,内存可能的分页,numa绑核、定频非定频等等。深度上只介绍thrift调用这一层。
笼统的过程如上图。大体分为三个部分:
1、有IP直接访问IP,没有IP通过其他信息获取到IP。
在此部分中,第一次连接需要根据环境和服务标识获取机器列表。客户端一般会有本地进程代理。对于美团OCTO来说,就是Sg_Agent(服务治理代理)。代理会和OCTO服务器进行通信,及时获取最新信息。连接建立后,下次访问就是直接IP访问了。
2、通过IP访问服务端,根据类名+方法签名获取方法。
3、通过拦截器认证的请求被服务端处理后返回结果。
Thrift内部的架构是分层次的。客户端和服务端都可大体分为代码层、协议层、传输层、IO处理层四部分。客户端和服务端的IO处理层直接交互。
代码层:
代码在美团OCTO体系中MtThrift中会直接由框架自动从java代码转成IDL文件,框架再根据IDL文件生成代码实现数据的读写。
协议层(实现Tprotocol接口):
将数据编码、解码。最三种的三种传输格式支持是:二进制格式、压缩格式、Json格式。
传输层(实现Ttransport接口):
提供从网络等媒介读取和写入数据的方式。常用的有:向文件进行读写、从内存上读写、压缩读写。
IO处理层:
这层所做的就是阻塞、非阻塞,单线程、多线程这些。一般像获取所有机房信息这样的读操作用的是多线程阻塞方式。写操作一般用多线程非阻塞方式。
再往下linux系统层的东西也是可以讲讲的,内容有点多,大家自己做思考题吧。还有涉及网络传输的信道、全双工传输模式这些,大家可以自己想一想,查一查。
四、总结
本次文章共三篇《一个请求过来都经过了什么?(Thrift版)》、《一个请求过来都经过了什么?(2017年http版)》、《思维发散的双刃剑》。首篇是刚写的,第二篇是17年写的。最后一篇是一些总结思考。