快速搭建微服务架构

本文涉及的产品
云原生网关 MSE Higress,422元/月
服务治理 MSE Sentinel/OpenSergo,Agent数量 不受限
注册配置 MSE Nacos/ZooKeeper,118元/月
简介: 快速搭建微服务架构


说在前面的话

准备好环境,拉取源代码,按照每个章节中的【实践操作】进行操作,即可搭建起来,已经测试通过。

不想把篇幅拉太长,且此文实践为主,如果对微服务没有理论基础,建议先阅读其他博主的微服务理论,再食用本文,效果更佳~

如有解释不当或错误的地方,欢迎各位大佬加以斧正!

之后要是有空,后续会容器化部署上云服务器,把部署过程剪一个视频出来。

环境准备(Windows版)

网络异常,图片无法展示
|

Windows单体部署架构图

网络异常,图片无法展示
|

  • 用户发送请求至网关地址,网关对此次请求做请求转发,转发的策略及配置规则在Ocelot项目中,指定一个configuration.json的配置文件,在宿主机创建IConfiguration时,将配置json文件作为键值对给Ocelot做配置使用

网络异常,图片无法展示
|

网络异常,图片无法展示
|

  • 一开始,用户在授权中心获取Token
  • 从ocelot源代码可以看到FileRoute定义了Ocelot的基本配置
  • 上游的请求(upstream),在网关中,根据路由匹配规则(Routes),转发到下游地址(downstream)
  • 下游地址便是服务地址,那网关如何知道将请求转发到哪个服务呢,这里便用上了Consul的服务注册与发现,当然不仅仅只集成Consul,Consul只是选择之一。
    网络异常,图片无法展示
    |
  • 请求在经过网关时,使用了Polly的弹性故障处理框架,加了一层自定义缓存。
  • 身份认证下放至服务实例,未在网关层加验证

以上便是简易的微服务Demo框架介绍,下边开始拉取项目实践吧!

服务注册与发现

启动并创建Consul集群

简单来说,各个业务服务实例注册在Consul这个平台的节点中,各个节点分享注册信息,一起组合成为一个集群。

每个节点分为客户端模式与服务端模式,其区别就是,服务端会存储各个节点的数据,客户端则所有注册到该节点的服务信息,都会转发至其他服务端节点,本身不存储这些信息。

也是由此原因,客户端模式的节点数量是不限制的,服务端模式节点则会控制数据

网络异常,图片无法展示
|

raft是一种选举的算法,用来实现微服务CAP中的分布式一致性,上图的Server模式带星的则为选举出来的Lead,可以自行了解一下

模拟动画,辅助理解raft:http://thesecretlivesofdata.com/raft/

Consul配置详解:https://www.cnblogs.com/sunsky303/p/9209024.html

实践操作

准备Consul配置文件,源代码根目录下已经上传

网络异常,图片无法展示
|

  • 启动Consul有两种方式,比如纯命令行启动、按照配置文件启动
  • 因为是单机部署,所以此处为:配置文件指定了每个Consul实例的端口,按照配置文件结合命令进行启动
// Windows 终端
 -- 进入Consul解压目录
 cd D:\Consul
 -- 服务端模式
.\consul.exe agent -server -bootstrap-expect=3 -data-dir=d:\consultmp\data-dir1 -config-file=D:\Consul\config\8500.json -node=server1 -bind='127.0.0.1' -client='0.0.0.0' -ui
.\consul.exe agent -server -data-dir=d:\consultmp\data-dir2 -config-file=D:\Consul\config\9500.json -node=server2 -bind='127.0.0.1' -client='0.0.0.0' -join='127.0.0.1:8301' -ui
.\consul.exe agent -server -data-dir=d:\consultmp\data-dir3 -config-file=D:\Consul\config\10500.json -node=server3 -bind='127.0.0.1' -client='0.0.0.0' -join='127.0.0.1:8301' -ui
 -- 客户端模式
 .\consul.exe agent -data-dir=d:\consultmp\data-dir4 -config-file=D:\Consul\config\11500.json -node=client1 -bind='127.0.0.1' -join='127.0.0.1:8301' -client='0.0.0.0' -ui

下载Consul应用程序之后,存放在指定文件夹,分别启动服务端模式和客户端模式的节点,组成Consul集群

网络异常,图片无法展示
|

启动集群之后可以分别打开

127.0.0.1:8500  127.0.0.1:9500  127.0.0.1:10500  127.0.0.1:11500

可以看到Consul的自带的ui界面,启动命令中的 -ui开启此界面

网络异常,图片无法展示
|

至此,Consul集群搭建完成,接下来用Nginx为集群做请求负载均衡。

Nginx使用如下配置

worker_processes  1;
events {
    worker_connections  1024;
}
http {
    include       mime.types;
    default_type  application/octet-stream;
    sendfile        on;
    keepalive_timeout  65;
  upstream ConsulNginx {
    server localhost:8500;
    server localhost:9500;
    server localhost:10500;
    server localhost:11500;
  }
    server {
        listen       8080;
        server_name  localhost;
        location / {
           proxy_pass http://ConsulNginx;
        }
        error_page   500 502 503 504  /50x.html;
        location = /50x.html {
            root   html;
        }
    }
}

进入Nginx安装目录,使用start nginx命令

网络异常,图片无法展示
|

Nginx启动成功,则进入http://localhost:8080/即可看到Consul的UI界面

网络异常,图片无法展示
|

业务服务启动与注册到Consul

准备一个业务服务程序,实际开发中可以为商品服务,订单服务,支付服务等等,服务中在调用Consul提供的方法注册在其节点中之后,业务服务需要抛出一个简易的可以返回当前状态的接口,用作健康检查。

此Demo使用一个简易的用户服务做演示,其中包含了受保护的资源、可匿名访问的资源,健康检查则是一个打印当前日期的接口。

网络异常,图片无法展示
|

实践操作

服务实例注册到Consul节点中,Appsettings.json文件中的ConsulAddress对应注册到某个Consul节点

网络异常,图片无法展示
|

// 启动webapi
-- Windows 终端
 -- 进入指定文件夹,自行修改文件路径,生成路径
 cd D:\Study\micservice-master\MicServiceDemo\MicServiceWebApi\bin\Debug\netcoreapp3.1
 -- 微服务Api,可以是用户服务,产品服务等待
 dotnet MicServiceWebApi.dll --urls="http://*:44380" --ip="127.0.0.1" --port=44380
 dotnet MicServiceWebApi.dll --urls="http://*:44381" --ip="127.0.0.1" --port=44381
 dotnet MicServiceWebApi.dll --urls="http://*:44382" --ip="127.0.0.1" --port=44382
 dotnet MicServiceWebApi.dll --urls="http://*:44383" --ip="127.0.0.1" --port=44383

注册至服务Conul节点,当然可以直接用ConsulNginx 8080端口进行注册,此处是为了注册至每个节点而这样处理

网络异常,图片无法展示
|

在此,启动了四个服务实例:

127.0.0.1:44380  127.0.0.1:44381  127.0.0.2:44382  127.0.0.2:44383

分别注册在4个consul节点之中

http://127.0.0.1:8500  http://127.0.0.1:9500http://127.0.0.1:10500http://127.0.0.1:11500

试着请求 127.0.0.1:44380/api/user/getall  请求保护资源,因为未授权则会是401无权限错误,这里需要授权中心拿到accesstoken才可以获取到结果,Token的获取在下一节便能知道。

接着尝试请求127.0.0.1:44381/api/user/getallwithnoverify 请求匿名接口,则可以拿到mock的数据。

授权中心

目前为止,此时还只是注册了服务,获取数据还是请求的业务服务暴露出来的地址与端口,这显然还不算微服务,也不安全,现在先把授权中心启动,待万事具备,再网关启动则可以跑通整个链路。

当然为了安全,服务实例部署到云服务器,会将44380这些端口用防火墙给墙柱,不让外部直接访问,只留下网关端口地址即可

Ids4授权中心

Identity Server 4 中有多种授权模式,常见的密码模式、客户端模式用的比较多,这里使用简单的客户端模式,他们都是基于Oauth2.0协议,可自行了解,这里不展开,使用起来还是很容易理解。

网络异常,图片无法展示
|

AuthenticationCenter项目,Startup中启用的授权中心services.AddIdentityServer,就是核心的一些配置和参数,他们决定了授权服务保护了哪些API作用域,决定了哪些客户端可以使用这个授权服务。

网络异常,图片无法展示
|

这里指定了一个客户端的Id与密码,以及授权访问的域

StartUp.cs授权下方的【测试访问受保护资源】,则是在授权中心这个项目中做了一个测试,用于测试授权访问是否成功,例如:

Home/Index  设为[Authorize] 需要授权才能访问

Home/Allow  设为[AllowAnonymous]  匿名访问

实践操作

// 启动授权中心
 -- 进入生成目录
 cd G:\Study\Git\micservice\MicServiceDemo\AuthenticationCenter\bin\Debug\netcoreapp3.1\
 -- 启动授权中心
 dotnet AuthenticationCenter.dll --urls="http://*:7000" --ip="127.0.0.1" --port=7000

网络异常,图片无法展示
|

验证授权中心是否生效,此时预留测试接口派上用场

1.从授权中心获取token,http://localhost:7000/connect/token

网络异常,图片无法展示
|

  1. 直接访问受保护的资源,必定401无权访问,将获取的token放置请求头中,即可通过授权

网络异常,图片无法展示
|

授权中心,便启动测试成功了,以上的测试是一个极简的OAuth2.0流程,授权中心拿Token去访问受保护资源

网关启动

现在服务注册准备好了,多个业务服务也注册在Consul的各个节点之中,授权中心也是启动可授权状态,现在便开始Ocelot网关的启动

Ocelot

在上文中一起看过源码,了解到ocelot集成了包括路由、请求聚合、服务发现、认证鉴权、限流、负载均衡等功能。而这些功能都可以直接通过修改json配置文件即可使用

//*****************************超时+限流+熔断+降级+Consul+Polly********************************
{
  "Routes": [
    {
      //转发到下游服务地址--url变量
      "DownstreamPathTemplate": "/api/{url}", // 服务地址--url变量
      //下游http协议
      "DownstreamScheme": "http",
      //负载方式,
      "LoadBalancerOptions": {
        "Type": "RoundRobin" // RoundRobin 轮询 LeastConnection-最少连接数的服务器   NoLoadBalance不负载均衡
      },
      //上游地址
      "UpstreamPathTemplate": "/gateway/{url}", // 网关地址--url变量 // 冲突的还可以加权重Priority
      "UpstreamHttpMethod": [ "Get", "Post", "DELETE", "PUT" ],
      // 使用服务发现
      "UseServiceDiscovery": true,
      "ServiceName": "MicServiceDemo", //consul服务名称
      // 限流设置, polly
      "RateLimitOptions": {
        "ClientWhitelist": [ "admin" ], //白名单 请求头ClientId 区分大小写
        "EnableRateLimiting": true,
        "Period": "5m", //1s, 5m, 1h, 1d
        "PeriodTimespan": 30, //多少秒之后客户端可以重试
        "Limit": 5 //统计时间段内允许的最大请求数量
      },
      // 熔断设置,熔断器使用Polly
      //"QoSOptions": {
      //  "ExceptionsAllowedBeforeBreaking": 3, //允许多少个异常请求
      //  "DurationOfBreak": 10000, // 熔断的时间,单位为ms
      //  "TimeoutValue": 2000 //单位ms 如果下游请求的处理时间超过多少则自如将请求设置为超时 默认90秒
      //}
      // 鉴权
      //"AuthenticationOptions": {
      //  "AuthenticationProviderKey": "UserGatewayKey", // 指定一个key,startUp中使用
      //  "AllowedScopes": [ "gatewayScope" ]
      //},
      // 文件缓存
      "FileCacheOptions": {
        "TtlSeconds": 15,
        "Region": "UserCache" //可以调用Api清理
      }
    }
  ],
  "GlobalConfiguration": {
    "ServiceDiscoveryProvider": {
      "Host": "localhost",  // Consul 集群地址
      "Port": 8080, // Consul Nginx负载均衡 端口
      // "Port": 8500. // Consul 节点端口
      // 由Consul提供服务发现
      "Type": "Consul"
    },
    // 限流选项
    "RateLimitOptions": {
      "QuotaExceededMessage": "请求太频繁,触发限流 ", // 当请求过载被截断时返回的消息
      "HttpStatusCode": 666 // 当请求过载被截断时返回的http status
      //"ClientIdHeader": "client_id" // 用来识别客户端的请求头,默认是 ClientId
    }
  }
}

在此配置下,可以大致了解,请求经过网关时,Ocelot所做的一些处理

  • 上游当请求至网关,符合 UpstreamPathTemplate节点所设置的模板“/gateway/{url}”,则将请求下发至下游的DownstreamPathTemplate:"/api/{url}"
  • 服务的提供者则为GlobalConfiguration.ServiceDiscoveryProvider,包含Consul的地址与端口,服务名称为"ServiceName": "MicServiceDemo"
  • 判断该请求是否触发polly的限流策略,在此配置中RateLimitOptionsGlobalConfiguration.RateLimitOptions的策略为:5分钟之内,至多请求5次,第6次开始HTTP状态码为666,返回的信息为“请求太频繁,触发限流”,30秒冷却期,请求头中加入 ClientId=admin,则为白名单可不受限流策略影响
  • 授权策略在这里注释了,认证授权在服务层做,而不再网关层,如果想要在网关进行授权认证,取消注释即可

实践操作

-- 进入生成目录
 cd D:\Study\Git\micservice\MicServiceDemo\OcelotGateway\bin\Debug\netcoreapp3.1\
 -- Windows 终端
 dotnet OcelotGateway.dll --urls="http://*:6297" --ip="127.0.0.1" --port=6297
 dotnet OcelotGateway.dll --urls="http://*:6298" --ip="127.0.0.1" --port=6298
 dotnet OcelotGateway.dll --urls="http://*:6299" --ip="127.0.0.1" --port=6299

为了容错及高可用, 启动三个 网关实例。

此时可以用 http://localhost:6297/gateway/user/getallwithnoverify测试链路是否通了

网络异常,图片无法展示
|

  • http://localhost:6297/gateway/user/getallwithnoverify符合网关下发请求的规则,则在服务注册中心(NginxForConsul:localhost:8080)取一个节点(此处随机到节点client1)
  • 将请求下发至http://client1:44380/api/user/getallwithnoverify
  • 因为修改了Host文件,client1映射为127.0.0.1,故请求转发的真实地址为http://127.0.0.1:44380/api/user/getallwithnoverify
    至此网关的集群搭建已完成,与Consul集群一样,这里再用Nginx做一层针对于Ocelot网关的负载均衡

NginxForOcelot 使用如下配置

worker_processes  1;
events {
    worker_connections  1024;
}
http {
    include       mime.types;
    default_type  application/octet-stream;
    sendfile        on;
    keepalive_timeout  65;
  upstream OcelotNginx {
    server localhost:6297;
    server localhost:6298;
    server localhost:6299;
  }
    server {
        listen       9090;
        server_name  localhost;
        location / {
            proxy_pass http://OcelotNginx;
        }
        error_page   500 502 503 504  /50x.html;
        location = /50x.html {
            root   html;
        }
    }
}

进入Nginx安装目录,使用start nginx命令

网络异常,图片无法展示
|

启动Nginx之后,则可在上文的基础上再做一次负载均衡。

尝试请求 http://127.0.0.1:9090/gateway/user/getallwithnoverify,则会自动选择Ocelot集群中的某一个网关进行请求下发

OK,至此整个微服务架构就搭建完了,下面进行测试

测试负载均衡

网络异常,图片无法展示
|

多次请求网关获取数据,返回的apiDomain不尽相同,则负载均衡完成

当然可以查看Ocelot网关的控制台,是将请求转发至哪个网关,及其网关下的Consul节点

测试授权访问

网络异常,图片无法展示
|

直接访问http://localhost:9090/gateway/User/GetAll是为401未授权错误。

在授权中心获取Token之后,ApiPost中填入认证Token,即可获取到受保护接口提供的数据

测试限流

网络异常,图片无法展示
|

快速请求多次,触发限流

总结

这次的微服务搭建,只在单机环境下,做的负载均衡都是伪负载均衡,没有整虚拟机和多个服务器上去部署,确实是一个遗憾,但是涉及的方面比较多还是有很多的学习价值,Consul和Ocelot这一套算是很常见的.net 微服务框架了,之后也可以试试其他框架。

往后,准备给目前这一套架构舔砖加瓦,比如分布式配置中心Apollo,分布式系统的应用程序性能监视工具 skywalking等等.....

最后再贴一下架构图

相关实践学习
SLB负载均衡实践
本场景通过使用阿里云负载均衡 SLB 以及对负载均衡 SLB 后端服务器 ECS 的权重进行修改,快速解决服务器响应速度慢的问题
负载均衡入门与产品使用指南
负载均衡(Server Load Balancer)是对多台云服务器进行流量分发的负载均衡服务,可以通过流量分发扩展应用系统对外的服务能力,通过消除单点故障提升应用系统的可用性。 本课程主要介绍负载均衡的相关技术以及阿里云负载均衡产品的使用方法。
相关文章
|
22天前
|
弹性计算 API 持续交付
后端服务架构的微服务化转型
本文旨在探讨后端服务从单体架构向微服务架构转型的过程,分析微服务架构的优势和面临的挑战。文章首先介绍单体架构的局限性,然后详细阐述微服务架构的核心概念及其在现代软件开发中的应用。通过对比两种架构,指出微服务化转型的必要性和实施策略。最后,讨论了微服务架构实施过程中可能遇到的问题及解决方案。
|
1月前
|
Cloud Native Devops 云计算
云计算的未来:云原生架构与微服务的革命####
【10月更文挑战第21天】 随着企业数字化转型的加速,云原生技术正迅速成为IT行业的新宠。本文深入探讨了云原生架构的核心理念、关键技术如容器化和微服务的优势,以及如何通过这些技术实现高效、灵活且可扩展的现代应用开发。我们将揭示云原生如何重塑软件开发流程,提升业务敏捷性,并探索其对企业IT架构的深远影响。 ####
43 3
|
1月前
|
Cloud Native 安全 数据安全/隐私保护
云原生架构下的微服务治理与挑战####
随着云计算技术的飞速发展,云原生架构以其高效、灵活、可扩展的特性成为现代企业IT架构的首选。本文聚焦于云原生环境下的微服务治理问题,探讨其在促进业务敏捷性的同时所面临的挑战及应对策略。通过分析微服务拆分、服务间通信、故障隔离与恢复等关键环节,本文旨在为读者提供一个关于如何在云原生环境中有效实施微服务治理的全面视角,助力企业在数字化转型的道路上稳健前行。 ####
|
21天前
|
Java 开发者 微服务
从单体到微服务:如何借助 Spring Cloud 实现架构转型
**Spring Cloud** 是一套基于 Spring 框架的**微服务架构解决方案**,它提供了一系列的工具和组件,帮助开发者快速构建分布式系统,尤其是微服务架构。
142 68
从单体到微服务:如何借助 Spring Cloud 实现架构转型
|
20天前
|
运维 监控 持续交付
微服务架构解析:跨越传统架构的技术革命
微服务架构(Microservices Architecture)是一种软件架构风格,它将一个大型的单体应用拆分为多个小而独立的服务,每个服务都可以独立开发、部署和扩展。
150 36
微服务架构解析:跨越传统架构的技术革命
|
23天前
|
设计模式 负载均衡 监控
探索微服务架构下的API网关设计
在微服务的大潮中,API网关如同一座桥梁,连接着服务的提供者与消费者。本文将深入探讨API网关的核心功能、设计原则及实现策略,旨在为读者揭示如何构建一个高效、可靠的API网关。通过分析API网关在微服务架构中的作用和挑战,我们将了解到,一个优秀的API网关不仅要处理服务路由、负载均衡、认证授权等基础问题,还需考虑如何提升系统的可扩展性、安全性和可维护性。文章最后将提供实用的代码示例,帮助读者更好地理解和应用API网关的设计概念。
54 8
|
1月前
|
Dubbo Java 应用服务中间件
服务架构的演进:从单体到微服务的探索之旅
随着企业业务的不断拓展和复杂度的提升,对软件系统架构的要求也日益严苛。传统的架构模式在应对现代业务场景时逐渐暴露出诸多局限性,于是服务架构开启了持续演变之路。从单体架构的简易便捷,到分布式架构的模块化解耦,再到微服务架构的精细化管理,企业对技术的选择变得至关重要,尤其是 Spring Cloud 和 Dubbo 等微服务技术的对比和应用,直接影响着项目的成败。 本篇文章会从服务架构的演进开始分析,探索从单体项目到微服务项目的演变过程。然后也会对目前常见的微服务技术进行对比,找到目前市面上所常用的技术给大家进行讲解。
54 1
服务架构的演进:从单体到微服务的探索之旅
|
28天前
|
消息中间件 运维 Kubernetes
后端架构演进:从单体到微服务####
本文将探讨后端架构的演变过程,重点分析从传统的单体架构向现代微服务架构的转变。通过实际案例和理论解析,揭示这一转变背后的技术驱动力、挑战及最佳实践。文章还将讨论在采用微服务架构时需考虑的关键因素,包括服务划分、通信机制、数据管理以及部署策略,旨在为读者提供一个全面的架构转型视角。 ####
36 1
|
1月前
|
弹性计算 运维 开发者
后端架构优化:微服务与容器化的协同进化
在现代软件开发中,后端架构的优化是提高系统性能和可维护性的关键。本文探讨了微服务架构与容器化技术如何相辅相成,共同推动后端系统的高效运行。通过分析两者的优势和挑战,我们提出了一系列最佳实践策略,旨在帮助开发者构建更加灵活、可扩展的后端服务。
|
1月前
|
消息中间件 运维 Cloud Native
云原生架构下的微服务优化策略####
本文深入探讨了云原生环境下微服务架构的优化路径,针对服务拆分、通信效率、资源管理及自动化运维等核心环节提出了具体的优化策略。通过案例分析与最佳实践分享,旨在为开发者提供一套系统性的解决方案,以应对日益复杂的业务需求和快速变化的技术挑战,助力企业在云端实现更高效、更稳定的服务部署与运营。 ####