想做分布式开发,需要懂哪些技术?

简介: 私底下问了几位前同事,还有不少同行的大学同学,几乎他们公司都在用目前主流的分布式技术框架做开发。还记得几年前刚毕业那会,.net和php做各种企业管理系统和网站还很吃香,智能机普及安卓和ios客户端开发大势流行更胜一筹

01前言


私底下问了几位前同事,还有不少同行的大学同学,几乎他们公司都在用目前主流的分布式技术框架做开发。还记得几年前刚毕业那会,.net和php做各种企业管理系统和网站还很吃香,智能机普及安卓和ios客户端开发大势流行更胜一筹;硬件方面C作为底层开发的鼻祖,网游和手游风靡之下C++作为主流游戏服务端语言;再看看Java虽是不温不火,却仍然是应用最广泛的开发语言,从传统行业到通信和金融、再到移动互联网、支付和电商等;在各种技术框架下,仍然用着Java作为第一开发语言。今天,想做分布式开发,需要掌握的技术知识点也是非常得多。如果你所在的公司正在往分布式技术栈迁移,或者你自己有往这方面学习和深入的打算,而又有点迷茫不知从何学期。那么,接下来就让我们一起来看看,想做分布式开发,到底需要学会哪些技术?


02—分布式篇


首先,我们从整体的架构开始进行一个初步的认识。我们先来思考以下几个问题,从各个层面来一一剖析分布式技术框架,让你全面了解分布式框架知识。
1 这个技术框架,它是什么东西?对于还没接触和了解过分布式框架的朋友,这个问题是你要关注的。你要学习一个东西总得先学习和了解它吧。详细查看博主另一篇文章,非常详细和形象的表述了单体式架构和分布式框架的区别,以类比法让你不仅掌握了分布式框架知识,而且还能同时比较单体式架构跟分布式架构的区别:单体架构,分布式系统的差别在哪里?


2 这个技术框架,它为解决了什么问题或痛点?

传统的单体式架构,存在团队合作困难。每次需求迭代和修改,即使是修改一行代码,也将涉及到整个系统的打包部署。不仅给开发和测试带来更多额外工作,也给运营带来困扰需要停机维护。另一个,从系统层面上来讲。单体式架构系统代码臃肿,高内聚高耦合应对高并发时有明显的系统性能缺陷,需要依赖机器服务集群部署来弥补软件性能的劣势。这时,分布式就应运而生了,它有着明显的优势:高内聚、低耦合,团队协作,各个业务模块独立开发测试和部署;完全避免和解决了单体式架构的缺陷与问题。这篇文章也有详细说明:分布式框架解决了什么问题?

3 有哪些分布式框架技术?

目前主流的分布式技术除了SpringBoot/Cloud、Dubbo外,像腾讯的Tars,京东的JSF,新浪的Motan等;SpringBoot/Cloud是国际性应用最广发的分布式框架技术,而国内也有很多互联网公司使用国产的Dubbo和Motan框架;Dubbo是阿里巴巴开源的一个RPC(远程过程调用)架构,Motan是新浪开源的轻量级RPC框架。

4 掌握这个技术框架,需要学会哪些(多少)技术?

要学习分布式技术框架,除了需要有坚实的Java基础外,还得掌握很多分布式组件知识。接下来就把本文的重点奉献给大家:

4.1 分布式服务框架

主要分为HTTP和RPC两种类型,面向服务架构SOA,它是一种建设企业生态系统的架构指导思想。SOA的关注点是服务,服务最基本的业务功能是单元,由平台中立性的接口契约来定义。通过将业务系统服务化、不同模块解耦、各模块间互相调用、消息交换和资源共享。主流的分布式/微服务架构:SpringBoot/Cloud、Dubbo、Tars、JSF、Motan等。

4.2 分布式事务

事物的4个基本特性:原子性、一致性、隔离性和持久性。CAP原则和BASE理论,详细见博文:分布式CAP理论和BASE理论XA协议通过2PC两阶段提交,三阶段提交3PC解决方案。TCC模式(Try、Confirm、Cancle)最终一致性分布式事务的实现方案:谈谈分布式事务TCC机制补偿模式如重试机制达到最终一致性。可靠事件模式通过异步处理、系统解耦、流量削峰等:消息中间件MQ系列开源方案有:tcc-tranction、Elastic-Job、ShardingSphere、seata、MQ。

4.3 分布式锁

  • 在分布式系统环境下,一个方法在同一时间只能被一个机器的一个线程执行。
  • 高可用的获取锁与释放锁
  • 高性能的获取锁与释放锁
  • 具备可重入特性(可理解为重新进入,由多于一个任务并发使用,而不必担心数据错误)
  • 具备锁失效机制,防止死锁
  • 具备非阻塞锁特性,即没有获取到锁将直接返回获取锁失败

经典方案:基于zookeeper或者redis实现分布式锁。

4.4 分布式缓存

分布式缓存是为了解决web服务器与数据库服务器之间的瓶颈,如果访问流量大,那么这个瓶颈就越大。数据库的读取压力将会非常大,即使此时数据库已经做了读写分离。那么为了分担数据库的压力,需要将数据缓存起来,这是可以在业务层,缓存数据。经典方案:redis、memcache 实现。

4.5 分布式消息系统

主要解决应用耦合,异步消息,流量削锋等问题。实现高性能,高可用,可伸缩和最终一致性架构(分布式事务)。经典方案:Kafka、ActiveMQ、RabbitMQ、RocketMQ (详见文章)消息中间件MQ系列   Zookeeper搭载kafka消息发布和订阅

4.6 分布式搜索系统

分布式的环境中,利用分布式计算和移动代理等技术从大量的、异构的信息资源中检索出对于用户有用的信息的过程。分布式环境指的是信息资源在物理上分布于不同的地点,在数据库结构上具有异构性,这些分散和异构的信息资源在逻辑上是一个整体,从而构成一个分布式检索系统。经典解决方案:Elasticsearch(基于Luence)

4.7 分布式调度

任务调度是指基于给定的时间点,给定的时间间隔或者给定执行次数自动的执行任务。任务调度是是操作系统的重要组成部分,而对于实时的操作系统,任务调度直接影响着操作系统的实时性能。任务调度涉及到多线程并发、运行时间规则定制及解析、线程池的维护等诸多方面的工作。分布式任务调度框架:cronsun、Elastic-job、saturn、lts、TBSchedule、xxl-job等

4.8 配置中心

随着业务的发展、微服务架构的升级,服务的数量、程序的配置日益增多(各种微服务、各种服务器地址、各种参数),传统的配置文件方式和数据库的方式已无法满足开发人员对配置管理的要求:

  • 安全性:配置跟随源代码保存在代码库中,容易造成配置泄漏。
  • 时效性:修改配置,需要重启服务才能生效。
  • 局限性:无法支持动态调整:例如日志开关、功能开关。

常见分布式配置中心:Spring config 、Apollo 、nacos、Diamond、Disconf  (详见)SpringCloud-Config配置中心学习总结

4.9 注册中心

注册中心主要涉及到三大角色:

  1. 服务提供者
  2. 服务消费者
  3. 注册中心

关系大致如下:

  • 各个微服务在启动时,将自己的网络地址等信息注册到注册中心,注册中心存储这些数据。
  • 服务消费者从注册中心查询服务提供者的地址,并通过该地址调用服务提供者的接口。
  • 各个微服务与注册中心使用一定机制(例如心跳)通信。如果注册中心与某微服务长时间无法通信,就会注销该实例。
  • 微服务网络地址发送变化(例如实例增加或IP变动等)时,会重新注册到注册中心。这样,服务消费者就无需人工修改提供者的网络地址了。

主要解决方案:Zookeeper、Eureka、Nacos、Consul

4.10 分布式链路追踪

分布式系统变得日趋复杂,越来越多的组件开始走向分布式化,如微服务、分布式数据库、分布式缓存等,使得后台服务构成了一种复杂的分布式网络。在服务能力提升的同时,复杂的网络结构也使问题定位更加困难。在一个请求在经过诸多服务过程中,出现了某一个调用失败的情况。分布式链路追踪就是将一次分布式请求还原成调用链路,将一次分布式请求的调用情况集中展示,比如各个服务节点上的耗时、请求具体到达哪台机器上、每个服务节点的请求状态等等。解决方案:Zipkin、Brave、Dapper、CAT、Mtrace等

4.11 服务监控

分布式系统复杂,需要有一个监控来将整个应用调用的全过程进行全天候监控,也能对系统资源、第三方组件进行监控,确保能够第一时间发现问题并及时解决问题。

  • web地址响应性能监控与统计
  • 服务响应新能监控与统计
  • RPC服务响应性能监控与统计
  • API接口响应性能监控与统计
  • 组件节点监控(MySQL、Redis、MQ)
  • 系统CPU、内存、硬件监控
  • 系统异常监控与统计

解决方案:Zabbix、Nagios、Metrics、Spectator

4.12 日志收集和分析

集中化管理日志后,日志的统计和检索又成为一件比较麻烦的事情,分布式日志手机解决更高的查询、排序和统计。主要组件:FileBeat + Kafka + ELK(Logstash)、Flume

4.13 服务路由网关

路由网关的角色是作为一个API架构,用来保护、增强和控制对于API服务的访问,它处于应用程序或服务之前的系统,用来管理授权、访问控制和流量限制等。四大路由网关:Zuul 2、SpringCLoud Gateway、Kong、OpenResty (详见文章)这些微服务网关你了解吗?

4.14 服务熔断器

复杂的分布式架构的应用程序有很多依赖,都会不可避免的出现服务故障等问题。高并发的依赖失败时,如果没有采取措施,当前应用服务就有被拖垮的风险。当下游服务因为访问压力过大或者其他原因导致影响变慢的时候,上游服务为了保护自己以及系统整体的可用性,可以暂时切断对下游服务的调用。解决方案:Hystrix、Envoy

4.15 负载均衡

一台服务器的处理能力,主要受限于服务器自身的可扩展硬件能力。所以,在需要处理大量用户请求的时候,通常都会引入负载均衡器,将多台普通服务器组成一个系统,来完成高并发的请求处理任务。我们通常说的负载均衡都是指web服务端负载均衡,但是涉及到分布式系统时,就不是简单的服务端负载均衡了,一般都需要在各个业务系统间维护一个客户端的负载均衡机制。服务端负载均衡:Nginx 、OpenResty客户端负载均衡:Ribbon和Feign详见文章:Ribbon和Feign客户端负载均衡及服务调用


05总结


分布式技术栈是一个复杂和庞大的体系,每一个知识点都博大精深,想要深入精髓达到精通的境界难度非常大。但我们只需要达到掌握其基本理论和一些常用技术点,用以解决日常工作中的问题就足够了。以上所有组件技术都收录在了:SpringCloud微服务构建浅析

相关实践学习
RocketMQ一站式入门使用
从源码编译、部署broker、部署namesrv,使用java客户端首发消息等一站式入门RocketMQ。
消息队列 MNS 入门课程
1、消息队列MNS简介 本节课介绍消息队列的MNS的基础概念 2、消息队列MNS特性 本节课介绍消息队列的MNS的主要特性 3、MNS的最佳实践及场景应用 本节课介绍消息队列的MNS的最佳实践及场景应用案例 4、手把手系列:消息队列MNS实操讲 本节课介绍消息队列的MNS的实际操作演示 5、动手实验:基于MNS,0基础轻松构建 Web Client 本节课带您一起基于MNS,0基础轻松构建 Web Client
相关文章
|
22天前
|
存储 安全 数据管理
新型数据库技术:基于区块链的分布式数据存储系统
传统数据库系统面临着中心化管理、数据安全性和可信度等方面的挑战。本文介绍了一种基于区块链技术的新型数据库系统,通过分布式存储和去中心化的特性,提高了数据的安全性和可信度,同时实现了高效的数据管理和共享。该系统在多个领域如金融、医疗和物联网等具有广阔的应用前景。
|
1月前
|
存储 分布式计算 大数据
HBase分布式数据库关键技术与实战:面试经验与必备知识点解析
【4月更文挑战第9天】本文深入剖析了HBase的核心技术,包括数据模型、分布式架构、访问模式和一致性保证,并探讨了其实战应用,如大规模数据存储、实时数据分析及与Hadoop、Spark集成。同时,分享了面试经验,对比了HBase与其他数据库的差异,提出了应对挑战的解决方案,展望了HBase的未来趋势。通过Java API代码示例,帮助读者巩固理解。全面了解和掌握HBase,能为面试和实际工作中的大数据处理提供坚实基础。
50 3
|
1月前
|
分布式计算 Hadoop 大数据
大数据技术与Python:结合Spark和Hadoop进行分布式计算
【4月更文挑战第12天】本文介绍了大数据技术及其4V特性,阐述了Hadoop和Spark在大数据处理中的作用。Hadoop提供分布式文件系统和MapReduce,Spark则为内存计算提供快速处理能力。通过Python结合Spark和Hadoop,可在分布式环境中进行数据处理和分析。文章详细讲解了如何配置Python环境、安装Spark和Hadoop,以及使用Python编写和提交代码到集群进行计算。掌握这些技能有助于应对大数据挑战。
|
16天前
|
存储 分布式计算 搜索推荐
【专栏】数据之海,分布式计算、数据存储与管理、数据分析与挖掘成为关键技术
【4月更文挑战第27天】在大数据时代,数据量爆炸性增长、类型多样及处理速度需求提升带来挑战。分布式计算、数据存储与管理、数据分析与挖掘成为关键技术,如Hadoop、Spark、HDFS、NoSQL等。实际应用包括互联网搜索、推荐系统、金融科技、智能城市等领域,大规模数据处理发挥关键作用,持续推动创新与奇迹。
|
1天前
|
机器学习/深度学习 存储 人工智能
新一代数据库技术:融合人工智能与分布式系统的未来前景
传统数据库技术在应对大规模数据处理和智能化需求方面逐渐显露出瓶颈。本文探讨了新一代数据库技术的发展趋势,重点关注了人工智能与分布式系统的融合,以及其在未来数据管理和分析中的潜在优势。通过深度学习和自动化技术,新型数据库系统能够实现更高效的数据处理和智能化决策,为企业带来更灵活、可靠的数据解决方案。
|
5天前
|
分布式计算 负载均衡 Java
构建高可用性Java应用:介绍分布式系统设计与开发
构建高可用性Java应用:介绍分布式系统设计与开发
9 0
|
13天前
|
存储 供应链 安全
区块链技术原理及应用:深入探索分布式账本技术
【4月更文挑战第30天】区块链,从加密货币的底层技术延伸至多元领域,以其分布式账本、去中心化、不可篡改性及加密技术重塑数据存储与交易。核心组件包括区块、链和节点,应用涵盖加密货币、供应链管理、金融服务等。尽管面临扩展性等挑战,未来潜力无限。
|
15天前
|
存储 安全 数据管理
新一代数据库技术:融合区块链与分布式存储的未来趋势
传统数据库技术在数据安全性和分布式处理方面存在局限,而新一代数据库技术正日益融合区块链和分布式存储,为数据管理带来革命性变革。本文探讨了这一趋势的发展方向,以及如何利用新技术实现更高效的数据管理与保护。
|
18天前
|
存储 安全 数据管理
新一代数据库技术:融合区块链的分布式存储系统
传统数据库技术在面对日益增长的数据量和复杂的数据管理需求时显现出局限性。本文介绍了一种新一代数据库技术:融合区块链的分布式存储系统。通过将区块链技术与传统数据库相结合,实现了数据的分布式存储、安全性和透明度,以及去中心化的特性。这一技术的应用将极大地推动数据库系统的发展,为数据管理带来全新的解决方案。
|
18天前
|
存储 安全 数据管理
新一代数据库技术:融合区块链的分布式数据存储系统
传统数据库系统面临着数据安全性、可信度和去中心化等挑战,而区块链技术的兴起为解决这些问题提供了新的思路。本文介绍了一种新一代数据库技术,将区块链技术与传统的分布式数据存储系统相融合,实现了更高水平的数据安全性和可信度,以及去中心化的优势。通过结合区块链的不可篡改性和分布式存储系统的高性能,这一新型数据库技术将在未来的数据管理领域发挥重要作用。