ServiceMesh究竟解决什么问题?

简介: 架构演进,永无穷尽,痛点多了,自然要分层解耦。

SM,第一篇

 

服务网格(ServiceMesh)这两年异常之火,号称是下一代微服务架构,接下来两个月,准备系统性的写写这个东西,希望能够让大家对最新的架构技术,有个初步的了解。

画外音:我的行文的风格了,“为什么”往往比“怎么样”更重要。

 

互联网公司,经常使用的是微服务分层架构

随着数据量不断增大,吞吐量不断增加,业务越来越复杂,服务的个数会越来越多,分层会越来越细,除了数据服务层,还会衍生出业务服务层前后端分离等各种层次结构。
 

不断发现主要矛盾,抽离主要矛盾,解决主要矛盾,架构自然演进了,微服务架构,潜在的主要矛盾会是什么呢?

 

引入微服务架构,一般会引入一个RPC框架,来完成整个RPC的调用过程。
image.png

如上图粉色部分所示,RPC分为:

  • RPC-client,它嵌在调用方进程里

  • RPC-server,是服务进程的基础

    不只是微服务,MQ也是类似的架构:
    image.png

    如上图粉色部分所示,MQ分为:

    • MQ-send-client

    • MQ-server

    • MQ-recv-client

     

    框架只是第一步,越来越多和RPC,和微服务相关的功能,会被加入进来。

     

    例如:负载均衡
    image.png

    如果要扩展多种负载均衡方案,例如:

    • 轮询

    • 随机

    • 取模

    • 一致性哈希

    RPC-client需要进行升级。

     

    例如:数据收集
    image.png

    如果要对RPC接口处理时间进行收集,来实施统一监控与告警,也需要对RPC-client进行升级。

    画外音,处理时间分为:

    • 客户端视角处理时间

    • 服务端视角处理时间

    如果要收集后者,RPC-server也要修改与上报。

     

    又例如:服务发现
    image.png

    服务新增一个实例,通知配置中心,配置中心通知已注册的RPC-client,将流量打到新启动的服务实例上去,迅猛完成扩容。

     

    再例如:调用链跟踪
    image.png

    如果要做全链路调用链跟踪,RPC-client和RPC-server都需要进行升级。

     

    下面这些功能:

    • 负载均衡

    • 数据收集

    • 服务发现

    • 调用链跟踪

    其实都不是业务功能,所以互联网公司一般会有一个类似于“架构部”的技术部门去研发和升级相关功能,而业务线的技术部门直接使用相关框架、工具与平台,享受各种“黑科技”带来的便利。

     

    完美!!!

     

    理想很丰满,现实却很骨感,由于:

    • RPC-client,它嵌在调用方进程里

    • RPC-server,是服务进程的基础

     

    往往会面临以下一些问题:

    • 业务技术团队,仍需要花时间去学习、使用基础框架与各类工具,而不是全心全意将精力花在业务和产品上

    • client要维护m个版本, server要维护n个版本,兼容性要测试m*n个版本

    • 如果要支持不同语言,往往要开发C-client,Python-client,go-client,Java-client多语言版本

    • 每次“黑科技”的升级,都需要推动上下游进行升级,这个周期往往是以季度、半年、又甚至更久,整体效率极低

    画外音:兄弟,贵司推广一个技术新产品,周期要多长?

     

    这些耦合,这些通用的痛点,有没有办法解决呢?

    一个思路是,将服务拆分成两个进程,解耦。
    image.png

  • 一个进程实现业务逻辑(不管是调用方,还是服务提供方),biz,即上图白色方块

  • 一个进程实现底层技术体系,proxy,即上图蓝色方块

画外音:负载均衡、监控告警、服务发现与治理、调用链…等诸多基础设施,都放到这一层实现。

  • biz和proxy共同诞生,共同消亡,互为本地部署,即上图虚线方框

  • biz和proxy之间,为本地通讯,即上图黑色箭头

  • 所有biz之间的通讯,都通过proxy之间完成,proxy之间才存在远端连接,即上图红色箭头

 

这样就实现了“业务的归业务,技术的归技术”,实现了充分解耦,如果所有节点都实现了解耦,整个架构会演变为:
image.png

绿色为biz

蓝色为proxy

整个服务集群变成了网格状,这就是Service Mesh服务网格的由来。

 

架构演进,永无穷尽,痛点多了,自然要分层解耦。希望大家有收获,后续再细聊SM的设计与架构细节。

 

思路比结论更重要。

本文转自“架构师之路”公众号,58沈剑提供。

相关实践学习
快速体验阿里云云消息队列RocketMQ版
本实验将带您快速体验使用云消息队列RocketMQ版Serverless系列实例进行获取接入点、创建Topic、创建订阅组、收发消息、查看消息轨迹和仪表盘。
消息队列 MNS 入门课程
1、消息队列MNS简介 本节课介绍消息队列的MNS的基础概念 2、消息队列MNS特性 本节课介绍消息队列的MNS的主要特性 3、MNS的最佳实践及场景应用 本节课介绍消息队列的MNS的最佳实践及场景应用案例 4、手把手系列:消息队列MNS实操讲 本节课介绍消息队列的MNS的实际操作演示 5、动手实验:基于MNS,0基础轻松构建 Web Client 本节课带您一起基于MNS,0基础轻松构建 Web Client
目录
相关文章
|
SQL 安全 数据挖掘
课7-隐语SCQL的架构详细拆解
SCQL是安全协作查询语言,针对多⽅隐私保护的数据分析。它在不泄露数据隐私的情况下,允许互不信任的参与⽅联合分析数据。SCQL采用半诚实安全模型,支持多⽅协作(N大于等于2方),并提供MySQL兼容的SQL接口。关键特性包括列级别授权(CCL)、多种密态协议支持和跨多种数据源接入。CCL是列控制列表,定义数据使用约束。SCQL架构包括SCDB(不参与计算)和SCQLEngine(部署在数据参与⽅),通过流程图和架构图展示其工作原理,适用于医疗研究、联合营销和保险理赔等场景。
|
计算机视觉 异构计算
【论文速递】ECCV2022 - ByteTrack:通过关联每个检测盒来进行多对象跟踪
【论文速递】ECCV2022 - ByteTrack:通过关联每个检测盒来进行多对象跟踪
|
Java 数据库连接 Spring
“探索Spring与MyBatis集成的最佳实践与技巧“(上)
“探索Spring与MyBatis集成的最佳实践与技巧“
394 0
|
9月前
|
人工智能 安全 Linux
安全体检 | 服务器的终极卫士
阿里云的安全体检是为用户提供的一项免费安全检测工具,旨在通过调用云安全中心和配置审计中的安全检测能力,汇总检测结果,涵盖病毒攻击、风险配置和服务器漏洞三方面。该服务帮助用户及时发现并解决潜在的安全问题,提升云上安全水平。与云服务诊断不同,安全体检更侧重于深层次的安全检测,确保服务器的安全稳定运行。
安全体检 | 服务器的终极卫士
|
9月前
|
数据挖掘 API 数据安全/隐私保护
淘宝商品评论API接口全攻略
淘宝商品评论API接口为电商从业者提供重要数据支持,帮助分析商品评价和舆情。通过淘宝开放平台或第三方数据服务提供商可获取该接口。使用时需注册账号、创建应用并获取密钥。调用流程包括参数准备、签名生成、发送请求及处理响应。Python示例代码展示了具体实现方法。注意事项包括频率限制、数据更新和安全性。 简要步骤: 1. **淘宝开放平台**:注册账号、入驻、创建应用、获取密钥。 2. **第三方服务**:选择准确、稳定且价格合理的提供商。 3. **接口调用**:准备参数、生成签名、发送请求、解析响应。 4. **注意事项**:遵守频率限制,确保数据安全与及时更新。
324 28
|
10月前
|
人工智能 自然语言处理 API
销售易Neo CRM与Zoho CRM:深度对比与分析
销售易Neo CRM和Zoho CRM是当今CRM市场的两大知名解决方案。销售易提供完整的销售漏斗管理、客户360度视图、营销自动化及AI赋能等功能,界面现代化,适合中大型企业;Zoho CRM覆盖销售、服务、营销,拥有强大的AI平台Zia和丰富的生态系统,界面简洁,支持全球化,适合各规模企业。销售易功能深入且本土化强,Zoho则性价比高、集成性强。选择时需根据企业规模、需求综合评估。
|
机器学习/深度学习 PyTorch 算法框架/工具
【从零开始学习深度学习】30. 神经网络中批量归一化层(batch normalization)的作用及其Pytorch实现
【从零开始学习深度学习】30. 神经网络中批量归一化层(batch normalization)的作用及其Pytorch实现
|
安全 网络虚拟化
VLAN这6个常见问题,是个网工都遇到过!
VLAN这6个常见问题,是个网工都遇到过!
521 0
|
缓存 网络协议 Linux
性能工具之网络 Benchmark iperf3 快速入门
Benchmark 评估服务器之前的网络带宽简单方法,大家做性能测试是否也是这样评估网络带宽?
706 2
性能工具之网络 Benchmark iperf3 快速入门
|
负载均衡 应用服务中间件 Linux
深入浅出学习透析Nginx服务器的架构分析及原理分析「底层技术原理+运作架构机制」
深入浅出学习透析Nginx服务器的架构分析及原理分析「底层技术原理+运作架构机制」
1052 0