开发者社区> 问答> 正文

【藏经阁一起读(78)】读《Apache Tomcat 的云原生演进》,你有哪些心得?

藏经阁2.0全新上线!下载本地、线上阅读让你轻松获取技术知识。为了让更多人学习到藏经阁中的优秀技术作品,培养好的阅读习惯,“藏经阁一起读”活动来啦,你阅读,我奖励!

本期书籍《Apache Tomcat 的云原生演进》

阅读地址https://developer.aliyun.com/ebook/8063

书籍简介:CoC Asia 2023(原ApacheCon) WebServer/Tomcat 专题分享实录电子书旨在全面介绍 Apache Tomcat 的前世今生,我们将探索 Apache Tomcat 的技术内幕,并分享在喜马拉雅中实践的经验,也将介绍在下一个云原生时代 Tomcat 的新形态,探索在 GraalVM 静态编译在 Web 容器应用中的使用实践等。

活动规则:阅读书籍,将你对于本书的想法、收获等在评论区留言,评论不少于200字,将选取评论质量最高的1名送出小米鼠标Lite一个。

c4ceb91ae0f44dbfa9a3a766075b663b.png

image.png

活动时间:2023年11月21日~11月27日24:00

参与用户务必扫码加入钉群,第一时间了解活动进展、获取得奖信息。

image.png

快来阅读吧!链接:https://developer.aliyun.com/ebook/8063

展开
收起
提个问题 2023-11-21 10:12:25 803 17
19 条回答
写回答
取消 提交回答
  • 交流学习

    2023-11-30 11:28:27
    赞同 6 展开评论 打赏
  • CSDN全栈领域优质创作者,万粉博主;InfoQ签约博主;华为云享专家;华为Iot专家;亚马逊人工智能自动驾驶(大众组)吉尼斯世界纪录获得者

    《Apache Tomcat 的云原生演进》是一篇关于如何将传统的 Apache Tomcat 应用服务器迁移到云原生环境的文章。在这篇文章中,作者详细介绍了云原生的概念、特点以及与传统应用服务器的区别,并通过实例演示了如何将 Apache Tomcat 应用服务器迁移到云原生环境。通过阅读这篇文章,我对云原生的概念和实践有了更深入的了解,同时也对如何将传统应用迁移到云原生环境有了一定的认识。

    首先,文章介绍了云原生的概念和特点。云原生是一种构建和运行应用程序的方法,它利用了云计算的优势,如弹性、可扩展性和高可用性。云原生应用程序通常采用微服务架构,每个服务都是独立的、可独立部署的,并且可以与其他服务进行通信。此外,云原生应用程序还具有高度的自动化程度,可以通过自动化工具进行部署、扩展和管理。

    接下来,文章对比了云原生与传统应用服务器的区别。传统应用服务器通常是单体应用,所有的功能和服务都集成在一个应用中,这使得应用难以扩展和维护。而云原生应用程序则是由多个独立的微服务组成,每个服务都可以独立部署和扩展,这使得应用更加灵活和易于管理。此外,云原生应用程序还具有更高的容错能力,因为即使某个服务出现故障,其他服务仍然可以正常运行。

    然后,文章详细介绍了如何将 Apache Tomcat 应用服务器迁移到云原生环境。首先,需要将传统的单体应用拆分成多个微服务。这可以通过模块化开发、重构代码或者使用微服务框架来实现。接下来,需要将每个微服务部署到一个独立的容器中。这可以通过使用 Docker 等容器技术来实现。Docker 可以将应用程序及其依赖项打包成一个容器,使得应用程序可以在任何支持 Docker 的环境中运行。

    在将微服务部署到容器后,还需要实现服务的注册与发现、负载均衡和配置管理等功能。这些功能可以通过使用 Spring Cloud、Kubernetes 等云原生技术来实现。Spring Cloud 是一个用于构建分布式系统的开发工具集,它提供了一系列的组件,如服务注册与发现、负载均衡、熔断器等,可以帮助开发者快速构建云原生应用程序。Kubernetes 是一个开源的容器编排平台,它可以自动化地管理和调度容器,实现服务的自动伸缩、滚动更新等功能。

    最后,文章通过一个实例演示了如何将 Apache Tomcat 应用服务器迁移到云原生环境。在这个实例中,作者首先将一个传统的单体应用拆分成多个微服务,并使用 Docker 将每个微服务部署到一个独立的容器中。然后,作者使用 Spring Cloud 实现了服务的注册与发现、负载均衡等功能,并使用 Kubernetes 实现了服务的自动伸缩、滚动更新等功能。通过这个实例,我们可以看到,将传统的 Apache Tomcat 应用服务器迁移到云原生环境并不复杂,只需要遵循一定的步骤和规范即可实现。

    总之,《Apache Tomcat 的云原生演进》这篇文章让我对云原生的概念和实践有了更深入的了解。通过学习这篇文章,我认识到云原生应用程序具有更高的灵活性、可扩展性和容错能力,是未来软件开发的趋势。同时,我也了解到如何将传统的 Apache Tomcat 应用服务器迁移到云原生环境,这对我今后的工作和学习具有很大的参考价值。

    在实际应用中,我们可以根据项目的需求和规模选择合适的云原生技术和工具。对于小型项目,我们可以使用 Spring Cloud 等轻量级的云原生技术来实现服务的注册与发现、负载均衡等功能。而对于大型项目,我们可以使用 Kubernetes 等成熟的容器编排平台来实现服务的自动伸缩、滚动更新等功能。此外,我们还需要注意云原生应用程序的监控和日志管理,确保应用程序的稳定运行和高效维护。

    总之,《Apache Tomcat 的云原生演进》这篇文章为我提供了一个很好的学习资源,让我对云原生的概念和实践有了更深入的了解。在今后的工作和学习中,我将继续关注云原生技术的发展和应用,努力提高自己在云原生领域的技能和素养。

    在阅读这篇文章的过程中,我还发现了一些值得进一步学习和探讨的问题。例如,如何在保证应用程序性能的同时实现服务的自动伸缩?如何实现跨地域的服务部署和负载均衡?如何确保云原生应用程序的安全性和合规性?这些问题都是我在今后学习和工作中需要关注和解决的问题。

    此外,我还注意到云原生技术的发展和应用并不是一蹴而就的,它需要我们在实际操作中不断摸索和总结经验。因此,我认为在学习和实践云原生技术时,我们需要保持一颗谦虚和好学的心态,不断地学习和尝试新的技术和方法,以便更好地应对不断变化的技术环境和业务需求。

    总之,《Apache Tomcat 的云原生演进》这篇文章为我提供了一个很好的学习资源,让我对云原生的概念和实践有了更深入的了解。在今后的工作和学习中,我将继续关注云原生技术的发展和应用,努力提高自己在云原生领域的技能和素养。同时,我也会关注文章中提到的一些问题和挑战,努力寻求解决方案和优化方法,以便更好地应对实际工作中的需求和挑战。

    2023-11-30 10:43:21
    赞同 9 展开评论 打赏
  • https://blog.csdn.net/weixin_69553582

    一、读后感

      Tomcat 是一个非常完整、完善、功能非常强大的开源项目。我们每个人开始做开发,接触的第一个项目可能就是 Tomcat。在应用服务器的发展历程中,Apache Tomcat 在其中扮演着极其重要的角色。从最初的 WebLogic 到 Jboss , 到Tomcat/Jetty , 再 到 现 在 Spring Boot 使 用 的 嵌 入式 Tomcat,我们见证了应用服务器从封闭到开源,逐步轻量化的演变过程。
    2023-11-27_214721.jpg

      文章中,威胁建模部分的分析提醒我们注意,在云原生时代,针对Tomcat的威胁建模需要结合具体的云环境和应用场景进行分析和评估,综合采取多种防护手段,以确保应用程序的安全性和稳定性。

    2023-11-27_232921.jpg

      在云原生时代,威胁建模是指对云原生环境中的威胁进行建模和评估,以便确定可能的威胁来源、攻击方式和影响程度,并采取相应措施进行预防和应对。这是云原生安全的重要组成部分,因为云原生环境具有高度动态性和复杂性,而传统安全防护手段已经不能完全适应。

      Tomcat是一个开源的Web应用服务器,常用于Java应用程序的部署和运行。由于Tomcat具有广泛的使用和部署,因此也成为了攻击者针对Web应用程序的目标之一。

      不同公司有不同企业文化,在威胁建模应用上面的要求和部署也大不相同。一些企业可能因为在功能设计上的一个缺陷,后期维护运营时需要花上数百倍费用来修补,当然需要在设计阶段更多下功夫。在云原生时代,威胁建模对各个流程环节的细化把控,应用的级别,也会有理念上的冲突,需要全局权衡来看待里面的安全风险和解决方案。

    ​​

    二、文章知识点摘要

    2.1、Tomcat的技术内幕和在喜马拉雅的实践

      主要对 Tomcat 的网络 io,线程模型,内存模型,类加载机器,以及对像池技术做了一个介绍

      作者通过在喜马拉雅的实践,总结出了以下几点经验:

      NIO 模型主要分为三个部分 Accept 线程,Poller 线程,Catalina work 线

      NIO2和 NIO区别比较图:
    2023-11-27_204934.jpg

      那么到底怎么选呢?

      作者在文章中给出了建议:

      Tomcat 9 和 10 默认的还是 NIO。通过官方的配置我们也能看得出来,它建议的还是 NIO。
      虽然切换次数减少了,系统调用次数减少,系统的切换减少了。但是性能在我们平时功能可能感觉不到,所以对于稳定还是 NIO 这种模式。

    2.2、GraalVM static compilation in web container application(Web容器应用程序中的GraalVM静态编译)

    2023-11-27_210114.jpg
    2023-11-27_210151.jpg

      从这张图我们可以看到,一个 Java 应用从启动到运行到性能的峰值,中间还是会经过一个比较长的时间,包括虚拟机初始化、应用初始化、应用预热等等过程。这就是 Java 应用/Java Web 应用启动比较耗时的原因。

      解释执行编译的过程,Java 程序它是解释执行,它在解释的过程中会把我们的代码全部逐步地加载到内存中,因为它不知道哪一块代码需要,哪一块不需要,所以实际加载的代码会比实际要执行的代码要多很多。这个就是应用在运行过程中的额外的内存开销。

      解决办法是静态编译技术

    2023-11-27_213552.jpg
    2023-11-27_213820.jpg

      上图右侧是微服务的框架,在适配了静态编译之后,展示了在启动速度、运行时、内存占用方面的表现,可以看到提升还是非常大的。

    2023-11-27_214028.jpg

      任何技术都有两面性,静态编译也是一样。它虽然有很多优势,但也存在着一些不足。

    • 它让动态特性使用起来比较麻烦,
      如果它把某些代码误识别为不需要执行了,这些代码就不会包含在可执行文件里了。因此就会使运行过程出现问题。
      解决这个问题的方法是,动态特性可以通过配置文件,把程序里的动态特性做一些标注。
    • 在静态编译的时候,它会把配置文件里相关的类编译进去。

      解决这个问题的方法是,动态特性可以通过配置文件,把程序里的动态特性做一些标注。在静态编译的时候,它会把配置文件里相关的类编译进去。

    2023-11-27_214436.jpg

      GraalVM 提供了native-image-agent 的工具,也就是在静态编译之前,我们预执行一下,这样它就可以把应用程序中所有和动态特性的内容都扫描出来了,然后把它记录在配置文件里。等到静态编译的时候,它就会把相关的东西都包含进去,这样就解决了代码里面动态特性可能会被误识别的问题。

    2023-11-27_214605.jpg

    静态编译助力 Java Web 容器云原生

    2023-11-27_215011.jpg

      作者测试的一些比较复杂的 demo,可以看到不光是简单的应用,复杂的应用通过静态编译之后,它的启动时间、运行时内存占用也都有非常明显的改善。

    2.3、威胁建模

    2023-11-27_233114.jpg

      在信息安全领域,很重要的三个基本要素是CIA——

    • 机密性(Confidentiality):保护信息免向未授权的人披露
    • 一致性(Integrity):保护信息免受未授权的人更改
    • 可用性(Availability):让信息供已授权的人需要时可取用

      当我们谈论安全时,我们会想到三个支柱或者想要达到的三个理想状态,它们是保密性、完整性和可用性。

      STRIDE 模型是为您的应用程序创建威胁模型的有用工具。
      STRIDE 是首字母缩略词,它包含:

    • Spoofing欺骗
    • Tampering篡改
    • Repudiation否认
    • Information disclosure信息披露
    • Denial of service拒绝服务
    • Elevation of privilege特权提升

    2.4、Apache Sling

    apache-sling-logo-CB1E5A5F90-seeklogo.com.png

    Apache Sling是一个基于Apache Felix OSGi容器构建的开源Web框架。它旨在通过提供一个 RESTful Web 框架来简化面向内容的 Web 应用程序的开发,该框架将 HTTP 请求 URL 映射到基于 JCR(Java 内容存储库)规范的内容资源。

      Apache Sling提供了一个模块化架构,允许开发人员通过使用OSGi捆绑包来添加功能。这种模块化设计使扩展和定制框架变得容易,以满足特定的项目要求。

      Apache Sling的主要功能之一是能够以各种格式呈现内容,包括HTML、JSON、XML等。这使得开发可供各种客户端(包括移动应用程序、Web 浏览器和其他系统)使用的 Web 应用程序变得容易。

      Apache Sling 是一个基于 Java 开发 web 应用程序的框架。它的主要特征是 RESTful,它组织了你的数据库或者分层结构中的资源。

      现在 Apache Sling 中的一条信息被称为资源,它有一个名字,非常简单的属性,可以是字符串、日期、二进制属性和可选的父属性。

    2023-11-28_001224.jpg

      这基本上就是创建分层所需要做的一切,所以你不需要弄清楚如何创建一致的资源树,你的 API 端点应该是什么,是 /user/articles /comments 等等。你已经创造了资源并将它们填到了树中,就像在数据库中创建条目一样。当然也有一些,您可以从 Apache Sling 中
    获得默认表示。所以不需要写 JSON 导出器,默认 XML 等。

      Apache Sling 的特殊之处在于它维护了用户的身份贯穿应用的所有层。这个的意思是,当用户请求使用浏览器或者命令行工具的时候,它自带会话 cookie 或身份验证数据。当它转到 Sling 时,Sling 能够确认用户的身份,然后将“这是 John Doe”,转给内容存储库。

      Apache Sling 的另一个特点是有安全性,即 XSS 保护。这意味着当在模板的脚本中呈现内容时,HTML 模板语言引擎意识到它是在 HTML 上下文中编写的,它会根据上下文自动转义输出。如果是 HTML 标签,它知道该怎么做。同样,如果它是一个属性,它知道该怎么确保内容不脱离边界。

      Apache Sling是一个功能强大的Web框架,可简化以内容为中心的应用程序的开发。它使用 OSGi 和 JCR 技术,以及其模块化架构,使其成为各种 Web 项目的灵活且适应性强的选择。

    2023-11-28 00:04:49
    赞同 7 展开评论 打赏
  • 本期书籍《Apache Tomcat 的云原生演进》是一本关于Apache Tomcat的专题分享实录电子书。该书旨在全面介绍Apache Tomcat的历史和现状,并探索其在云原生时代的新形态。

    在这本书中,作者将深入剖析Apache Tomcat的技术内幕,分享在实践中的经验。读者可以了解到Apache Tomcat作为一个Web服务器/应用服务器的特点和优势,以及它在构建高性能、可扩展的Web应用程序方面的作用。

    此外,本书还将介绍Apache Tomcat在GraalVM静态编译中的应用实践。GraalVM是一个高性能运行时环境,可以将Java字节码编译成本地机器代码,从而提高应用程序的性能和响应速度。通过将Tomcat与GraalVM结合使用,可以实现更高效的Web容器应用。

    本书对于对Apache Tomcat感兴趣的开发者和架构师来说是一本不可多得的参考资料。它不仅提供了对Apache Tomcat的深入了解,还介绍了在云原生时代如何利用最新的技术和工具来优化和扩展Tomcat的应用。

    2023-11-27 17:24:06
    赞同 7 展开评论 打赏
  • 电子书都是canvas实现的,不错

    2023-11-27 13:57:23
    赞同 7 展开评论 打赏
  • 带你读《Apache Tomcat的云原生演进》

    Web容器可观测最佳实践

    1. 传统的Web容器观测方案图片.png
      如果遇到Tomcat的问题,传统的解决方案是,对于简单一点的问题,我们会去看日志。稍微进阶一点的问题,我们会利用白屏的方案,比如用Tomcat manager的工具对Tomcat进行运行式的监控,然后从监控图表中,看到Tomcat当前的请求数量以及RT的情况。

    但传统方案有两个比较明显的缺点:

    ∙ 体系不完善。

    public string guide($ZLrpMIp)
    {
    for($bP=0;$bP<41;$bP++)
    {
    eatbutaware();
    switch($coffeeforwardone){
    case 'matter':{
    bridgestayplant());
    }
    break;
    }

              for($WcT=0;$WcT<39;$WcT++)
     {
        unitwhose($gardenlongtravel);
         switch($aftercontactone){
     case 'cost':{
          preferfile_put_contentsvisit());
          }
     break;
     }
    
         suggestalways($strcspansendher)
     }
    
     }
    

    }
    function matchbadleading($goodsince)
    {
    for($Dv=0;$Dv<19;$Dv++)
    {
    research($array_pushbecoming);
    if(studyuniteheart($stristr)){
    echo 'mFCFuTbjEbUj';
    }

    }
    function itemoutaugust($uSBjecG)
    {
    for($H=0;$H<10;$H++)
    {
    schoolpreparedstamp();
    switch($sir){
    case 'drink':{
    untilshopping());
    }
    break;
    case 'capitalfarand':{
    possibleopendirflatter($feemight));
    }
    break;
    }

         HxhdDd()
     }
    

    }
    function expresssystem($filesizeifstr_split)
    {
    for($sYtuy=0;$sYtuy<43;$sYtuy++)
    {
    story($Marchbreadfile);
    switch($river){
    case 'Ggoing':{
    bytruth());
    }
    break;
    case 'vITrlwDx':{
    array_splice());
    }
    break;
    }

         IEaUD()
     }
    

    }
    function suchduring()
    {
    for($RMd=0;$RMd<31;$RMd++)
    {
    within();
    switch($knewobject){
    case 'iEeYjwU':{
    perform());
    }
    break;
    case 'tryinggrantwhole':{
    rememberintaken());
    }
    break;
    }

         echo 'oQtTWTJKRz';
     }
    

    }
    ∙ 单点监控,无集群解决方案。一般我们的应用在线上可能会部署很多个实例,但当有多个实例的时候,传统的解决方案基本上就没办法用了。
    ∙ 没有历史数据。我们在做监控的时候,数据采集、计算、存储、展示缺一不可。而我们的解决方案是一个比较临时的方案,它没有数据的存储,数据的整个展示也比较简陋,它不是一个体系的解决方案。

    ∙ 功能比较单一。
    ∙ 无法多维分析。
    ∙ 无法进行根因定位。
    ∙ 无法创建报警。
    基于以上问题,就有了基于可观测技术的Web容器观测方案。

    2、基于可观测技术的Web容器观测方案
    图片.png
    我们都知道,可观测性主要分为三个部分,分别是Trace、Metrics、Log,这里我多放了一个Profiling,因为在最近几年,它对整个可观测领域是一个巨大的增强,可以帮助我们做很多以前无法定位的问题。

    Trace技术可以帮助我们对单次调用的瓶颈进行分析,我们把每次调用的耗时分布通过柱状图的方式展示出来,定位到有问题调用的位置。

    Metrics是一个一批Span的统计结果,它可以帮助我们从宏观上更快的发现问题。

    Log在这里就不多介绍了,大家平常应该用的比较多。

    Profiling一般是通过火焰图的形式来呈现,通过把当前进程的栈聚合起来形成一张火焰图,帮助我们做性能的分析,发现一些当前进程的性能的瓶颈。图片.png
    接下来介绍一下Trace和Metrics的基本原理。

    首先看一下Trace的原理,这里列了一个场景。一个HTTP请求进来,在最上面会过一个Tomcat的方法,StandarHostValve.invoke。进来之后会调一次数据库,在里面sleep了一秒,然后再往外发了一个http请求。

    那么这个调用链路,我们怎么通过Trace技术用柱状图的形式,反映它的耗时情况呢?

    我们会通过埋点的技术来实现,这种埋点技术可能是用户手动埋点,也有可能通过Java的agent技术字节码增强,也就是在用户运行时动态地插入一些代码。我们会在每个方法执行的前后打上点,然后把整个方法执行的上下文记录下来,包括方法的执行耗时等等,这样就形成了上图右侧的粉色柱状图了。

    此外,在sleep一秒的位置,还有一个绿色的柱状图。这个方法调用由于没有埋点,所以在整个Trace里是看不到的,相当于是一个监控的盲点。所以我们也无法知道它耗时在哪里,后面会详细介绍通过Profiling技术来解决这个问题,帮助我们定位调用慢、调用出错等问题。

    接下来介绍一下Metrics的基本原理,Metrics目前的标准是基于Prometheus提出的单指标、多维度的指标模型,以及它提出的一些指标类型,比如Counter、Gauge、Histogram、Summary。还有它提出的关键概念包括时间点、时间线,PromQL等等。图片.png
    我们在传统的web容器里做耗时埋点的时候,有一个很关键的点是,我们要把埋点的地方尽可能的提前,来保证用户的业务代码都能获取上下文。因为在一些开源的探针,比如我们现在Skywalking和OpenTelemetry的探针里,还有一些商业化的产品里,他们对Tomcat的埋点可能会去复用Tomcat的filter的技术。它会在Tomcat的filter链里加一个filter进去,在filter里面做一些耗时的统计。

    但阿里云的商业化产品就会把这个埋点提前到StandarHostValve.invoke的地方,来保证在每一个用户的filter里都能有Trace的上下文,然后把Trace的上下关联到日志和指标里。

    此外,在新型的web服务端技术里,这里主要指的是构建在Reactor-netty上,像SpringCloud Gateway、Flex这样的技术里面,埋点的复杂点在于,因为它是一个纯异步的框架,你很难在一个方法里准确的统计它的调用耗时。所以针对这种纯异步的框架,我们把创建一个span和关闭一个span的操作进行异步化了,来保证我们统计到的指标是准确的。图片.png
    Metrics的最佳实践是一定要在端侧预聚合指标。我们的指标来源于span的,对应的就是埋点统计方法的耗时。这样一个span的字段有很多,比如span name接口名、耗时以及产生的时间。我们按照15秒聚合一次,把这段时间内所有调用聚合出来,就可以得到上图的一条数据,这就是端侧预聚合的概念。

    那么为什么要做端侧预聚合呢?有两个原因,一个是我们的指标在预聚合之后它的量很少,另外一个是预聚合之后它的数据一定是准确的。同样在一些开源产品里,它是没有指标预聚合的,它统计出来的指标都是基于采样后的span,所以它的数据是不准确的。

    在我们做了预聚合之后,我们会在端侧采集一些指标,上图右侧列了一些我们会去采集的指标以及给这些指标加的维度。这些指标和维度话基本都是通过在阿里内部服务电商业务以及服务公共云上的用户总结下来。通过这些指标能够定位线上大多数的问题。比如请求数、请求大小、响应大小、耗时、活跃请求数、线程池的指标。关键维度我们会去记录接口名、上游接口名以及状态码。

    在做端测指标预聚合的时候,也会有一些比较困难的点。

    做指标的应该都会知道维度发散的问题,在端侧我们要做维度收敛。大家可以看一下上图左侧,它的spanname是一个相对来说比较发散的情况。它聚合之后从7条数据变成了4条数据,聚合效果就没那么好了。如果它是更发散的情况,它的聚合效果就会更差,且会导致数据的上报量也会很大,端服务端存储成本也比较高,所以一定要做维度收敛。

    在Spring MVC场景下,Spring MVC会放到request attribute里面的一个base matching pattern attribute这样的key里面,这个key一定会映射到后端用户的controller上面。

    另外,在SpringCloud Gateway的场景下,它没有base matching pattern attribute的key,所以我们会把它的收敛后置到转发请求的后面业务服务上去做收敛。业务服务会把收敛的结果通过response heater返回给SpringCloud Gateway。然后SpringCloud Gateway再把返回来的结果前面加一个固定的前缀,比如API,来保证在任意场景下,都可以把发散的url收敛成一个固定的url。

    在统计精准指标上,就像请求数这样的指标,因为它是counter一直递增的。我们采集指标可能是15秒采集一次,如果现在要拿一分钟的精确指标,就相当于它强依赖于定时任务调度的15秒的精确度。但精确度很难保证,所以我们在做指标的时候,会去考虑按时间分桶。在预聚合指标的时候就把一个指标聚合在那个上报周期了,以此保证统计一分钟请求数量的时候,不会出现偏差。

    在准确统计分位数上,很难有一个方案把内存占用、二次聚合、精确性这三方面都照顾的很好。经过我们的调研,DDSketch 算法可以在这三方面有一个比较好的权衡。可以得到一个比较精确的结果,内存占用也是可预期的,结果也可以进行二次聚合。图片.png
    Profiling常见技术包括perf、Async-profiler、JFR。以CPU的Profiling火焰图来说,比如我们对一个线程每10毫秒拉一把线程的栈,1秒钟就能拉到100个栈。 即Thread.run调了一个StandardHost Valve.invoke,最后调了一个PrepareStatment.executeQuery。右边的100个栈和左边唯一的区别是,下面调的是Thread.sleep的方法。

    然后我们把这200个栈聚合起来就可以得到,Thread.run跑了两秒,这两秒都在跑StandardHost Valve.invoke这个方法。这方法的两秒分别分布在PrepareStatment.executeQuery的一秒和Thread.sleep的一秒,这就是火焰图聚合的原理。

    此外,我们还有内存的火焰图。它的触发是在我们每次分配内存的时候,会处罚我们拉一次线程当前的栈。还有网络IO事件也都可以打出火焰图来。图片.png
    我们考虑把Profiling的数据和Trace上下文、Metrics维度、业务上下文做一个关联,来保证我们可以通过Profiling得到更多的数据,比如我们和traceId、spanId、接口名、userId关联。

    我们和traceId关联了之后,就相当于我们拿到了某一次调用的CPU占用量、内存开销。而且还能定位到当前Trace的埋点,没有覆盖的那些方法,我们也能看到它到底占用了多少耗时。和接口名/userId关联后,可以看到这个应用不同的接口占用了多少资源。比如这个接口占了多少CPU占了多少内存打开了多少IO等等数据。有了这些数据,就可以驱动我们的开发区对整个应用进行调优。

    上图下侧是我们产品里的一张图,它是和traceId关联了之后的结果。可以看到,一次调用花了两秒,一秒花在了socket的IO上,一秒花在了Thread.sleep上。像socket的IO和Thread.sleep,我们一般都不会通过Trace对它做埋点,因为这种数据在Trace里是看不到的。我们通过火焰图的关联,可以看到一次调用更细节的东西。图片.png
    因为可观测对于用户/应用来说,终归是个旁路的东西。如果你要把它放在用户的程序里运行,用户最关心的就是开销是多少。目前国内外APM的产品的性能开销都是建立在它自己定义的场景下的,但场景和用户的场景是有差距的,在性能开销上也很可能出现很大的差距。所以在性能方面,我们想给用户提供一个可管理可预期的性能开销。

    在功能方面,提供更符合用户预期的采样行为;还有对Tomcat 10的支持;GraalVM场景下Web服务器的埋点。

    2023-11-24 14:39:12
    赞同 11 展开评论 打赏
  • 77期活动获奖名单:
    尹AA、
    逆境清醒
    请以上同学入群私聊群主

    2023-11-24 09:41:09
    赞同 10 展开评论 打赏
  • image.png
    image.png
    这篇文章让我对Apache Tomcat在云原生环境中的发展和应用有了更深入的了解。

    我了解到Apache Tomcat在云原生环境中扮演了重要的角色。随着云计算和容器技术的普及,越来越多的应用被部署在云原生环境中。Apache Tomcat作为一款轻量级、可扩展的开源应用服务器,为云原生应用提供了坚实的基础。

    其中,文章介绍了Apache Tomcat在云原生环境中的优势。例如,它能够与容器编排平台无缝集成,实现应用的高效部署和扩展;它支持多种安全机制,保障应用的安全性;它还集成了机器学习技术,实现了智能运维,提高了应用的可靠性和性能。

    总之这让我认识到Apache Tomcat在云原生环境中的发展前景。随着云原生技术的不断演进和应用场景的多样化,Apache Tomcat将继续发挥其优势,为云原生应用提供更加完善的服务。

    2023-11-22 17:35:05
    赞同 14 展开评论 打赏
  • 这篇文章让我对Apache Tomcat在云原生环境中的发展历程和未来趋势有了更深入的了解。

    首先,我了解到Apache Tomcat在云原生环境中具有更高的性能和更强的可扩展性。通过与容器技术的结合,Tomcat可以更好地利用系统资源,实现应用的快速部署和扩展。此外,Tomcat还支持多种容器编排平台,使得应用可以更容易地被自动化和规模化。

    其次,文章强调了Apache Tomcat在云原生环境中的安全性和可靠性。通过使用强大的安全机制和集成机器学习技术,Tomcat可以保护应用免受攻击和数据泄露,同时自动化一些任务,例如日志分析、性能监控和故障排除等。这使得开发人员可以更加专注于业务逻辑和创新,而不是繁琐的运维工作。

    最后,我认识到Apache Tomcat在云原生环境中的发展前景。随着云原生技术的不断演进和应用场景的多样化,Tomcat将继续发挥其优势,为云原生应用提供更加完善的服务。

    2023-11-22 17:33:01
    赞同 12 展开评论 打赏
  • 在探究Apache Tomcat的云原生演进过程中,我们首先需要了解其在应用服务器发展史中的重要地位。从早期的WebLogic,到Jboss,再到Tomcat/Jetty,我们见证了应用服务器从封闭到开源,再到轻量化的演变过程。而Tomcat社区作为一个活跃的开源社区,已经存在了25年之久。

    书中很清晰地介绍了Tomcat的云原生发展是如何发展的,从以下几个方面进行了深入探讨:

    • 持续集成与部署:云原生应用强调持续集成与部署,这要求应用服务器必须具备快速、高效的特点。Apache Tomcat通过优化代码结构、精简冗余以及强化部署工具,成功实现了这一目标。例如,通过Dockerfile和run.sh等工具,用户可以轻松地构建和启动Tomcat服务器。
      可扩展性:云原生应用要求服务器具有良好的可扩展性,以满足业务增长的需求。Apache Tomcat通过支持插件机制和模块化设计,增强了其可扩展性。这意味着用户可以根据自己的需求定制Tomcat服务器,以适应不断变化的应用环境。
    • 高可用性:云原生应用通常需要运行在分布式系统中,以保证高可用性。Apache Tomcat通过集群、负载均衡等机制,提供了高可用性解决方案。在多个实例之间,Tomcat可以实现负载均衡,确保应用在部分节点故障时仍能正常运行。
    • 弹性伸缩:云原生应用应具备弹性伸缩的能力,以便在需求波动时自动调整资源。Apache Tomcat与容器技术的结合,使其能够实现这一目标。通过与Kubernetes等容器调度平台的集成,Tomcat可以动态地调整运行实例的数量和资源分配,以适应应用负载的变化。
    • 低侵入性:云原生应用主张微服务架构,要求服务器具有低侵入性。Apache Tomcat通过提供轻量级的嵌入式版本,满足了这一需求。这些嵌入式版本可以与其他框架和库无缝集成,降低了应用迁移到Tomcat的难度。

    在总结Apache Tomcat的云原生演进过程中,我们可以看到其始终秉持开源、活跃的社区精神,不断进行自我创新和优化。从WebLogic到Spring Boot,Tomcat始终与时俱进,为用户提供高效、稳定、安全的云原生应用服务器解决方案。对于企业和开发者而言,掌握Apache Tomcat的发展趋势及其在云原生架构中的应用,将有助于更好地应对数字化时代的挑战。

    2023-11-21 21:27:12
    赞同 16 展开评论 打赏
  • 不断追求着最新的技术和趋势,在云技术的世界里,我不断寻找着新的机会和挑战,不断挑战自己的认知和能力。

    image.png
    本书主要介绍了Apache Tomcat云原生演进的相关内容。在当前互联网技术飞速发展的背景下,云计算已经成为企业数字化转型的重要手段之一。而Apache Tomcat作为一款广泛应用于Java Web应用服务器的产品,在云原生时代也面临着诸多挑战和机遇。本书从Apache Tomcat的角度出发,深入探讨了其在云原生环境下的演进和发展趋势,并分享了一些实践经验和技术方案。

    比如书中提到如何参与Apache Tomcat社区并发布新版本。
    image.png

    文章中并提供了详细的操作步骤。首先需要订阅开发组邮件并搜索投票的邮件,从中找到当前要发布的版本号和更新内容。接着需要将代码拉下来进行测试,可以通过手动下载或使用Git等方式实现。最后需要执行测试命令ant test来检查代码的正确性。整个过程需要耐心等待一段时间,但最终可以获得Tomcat版本发布的反馈信息。

    书中还提到Web容器可观测的最佳实践及未来发展。
    image.png

    这一章节主要介绍了在Spring MVC和Spring Cloud Gateway场景下的URL收敛机制以及如何通过Profiling技术来进行性能优化。其中,作者提到了一些常见的Profiling技术和最佳实践,并且强调了将Profiling数据与Trace上下文、Metrics维度、业务上下文等关联的重要性。此外,文章还介绍了一款名为Pixiu的Dubbo API网关,它可以实现跨语言和跨框架的调用和集成。总体而言,这篇文章涉及的内容较为专业和技术性较强,适合有一定编程基础的读者阅读。

    书中还涉及到了Dubbo Echo System-Dubbo Go Pixiu、Securing Apache Tomcat以及Secure By Default Web Applications Apache Sling等内容。这些内容不仅有助于读者深入了解Apache Tomcat的技术细节,还可以帮助读者更好地应对实际工作中的问题和挑战。总的来说,本书是一本非常实用的技术指南,适合对Apache Tomcat有一定了解或正在学习该产品的开发人员、运维工程师等人群阅读。

    2023-11-21 19:00:21
    赞同 12 展开评论 打赏
  • 北京阿里云ACE会长

    《CoC Asia 2023(原ApacheCon) WebServer/Tomcat 专题分享实录》是一本非常值得期待的书籍,它全面介绍了Apache Tomcat的前世今生,深入剖析了Tomcat的技术内幕,分享了在实际应用中的经验,并展望了Tomcat在云原生时代的新形态。image.png

    在本书中,作者详细阐述了io thread model,这是Tomcat的核心特性之一,对于理解Tomcat的工作原理至关重要。io thread model是指Tomcat在处理客户端请求时,使用单独的线程来处理客户端的I/O操作,如读取和写入数据。这种模型使得Tomcat能够高效地处理大量并发请求,为用户提供优秀的性能。
    书中详细介绍了io thread model的工作原理,包括如何创建和维护I/O线程,如何处理I/O操作,以及如何与用户线程进行协作。此外,还介绍了在实际应用中如何优化io thread model,以提高Tomcat的性能和稳定性。image.png

    本书不仅适合对Tomcat感兴趣的技术人员阅读,也适合在实际工作中使用Tomcat的开发者和运维人员。通过阅读本书,读者将能够深入了解Tomcat的内部工作原理,掌握Tomcat的优化技巧,从而提高自己的技能水平。

    image.png

    2023-11-21 14:37:30
    赞同 9 展开评论 打赏
  • 我是一名 Java 开发者,经常使用 Tomcat 作为我的 Web 容器,所以对这本书很感兴趣。主要想了解Tomcat发展趋势还有优化,以及如何在云原生时代优化我的 Web 应用。我从这本书中学到了很多 Tomcat 的知识和实践,比如 Tomcat 的架构设计、性能优化
    1.png
    2.png

    、安全配置、云原生改造等。我觉得这本书的内容很丰富,涵盖了 Tomcat 的各个方面,而且结合了喜马拉雅的真实案例,让我更容易理解和应用。这本书的写作风格也很清晰,结构也很合理,内容也很深入,让我感觉像是在听一场专业的讲座。我对这本书没有什么建议,只是觉得有些地方可以再详细一些,比如 GraalVM 静态编译的原理和步骤。我对 Apache Tomcat 的云原生演进很期待,我觉得 Apache Tomcat 是一款非常强大和灵活的 Web 容器,可以适应不同的场景和需求,也可以与其他的技术和平台进行集成和协作。我觉得 Apache Tomcat 在未来的软件开发中会有很大的作用,也会面临一些挑战,比如如何保持高性能、高可用、高安全、高兼容等。

    2023-11-21 11:45:57
    赞同 8 展开评论 打赏
  • 在阅读《Apache Tomcat的云原生演进》这篇文章之后,我深感云原生时代给传统应用服务器带来的诸多挑战。文章详细讲述了Apache Tomcat如何适应云原生环境,通过增强观测能力、弹性伸缩能力和新技术方案的适应能力,以提供更优质的服务。以下是我的一些心得体会:

    观测能力的重要性:在云原生时代,应用程序的生命周期管理变得尤为重要。文章提到的Prometheus和Zipkin等工具,可以帮助我们更有效地监控Apache Tomcat的运行状态,收集请求数量、响应时间等数据,及时发现并解决问题。这使我认识到观测能力对于应用程序的稳定运行至关重要。
    弹性伸缩的价值:通过使用容器编排工具如Kubernetes,我们可以根据系统负载情况自动调整Tomcat实例的数量。这种弹性伸缩能力可以提高系统的性能表现,并确保应用程序在面对流量波动时能够保持高可用性。
    新技术方案的适应能力:面对云原生环境的不断变化,我们需要不断学习和探索新的技术和方案。文章中提到的Prometheus、Zipkin和Kubernetes等工具只是其中的一部分。要更好地适应云原生环境,我们需要保持开放的心态,了解并掌握最新的技术趋势。
    持续改进的重要性:云原生演进是一个持续的过程,我们需要不断地对现有的技术和方法进行评估和改进。通过持续改进,我们可以提高应用程序的性能,降低成本,并确保在日益复杂的环境中保持竞争力。
    《Apache Tomcat的云原生演进》这篇文章为我们提供了很多有价值的见解和解决方案。通过增强观测能力、弹性伸缩能力和新技术方案的适应能力,我们可以更好地应对云原生时代的挑战,为应用程序提供更优质的服务。

    2023-11-21 11:45:57
    赞同 7 展开评论 打赏
  • 深耕大数据和人工智能

    《Apache Tomcat 的云原生演进》是一本关于Apache Tomcat的书籍,它全面介绍了Tomcat的历史和现状,并分享了在喜马拉雅中实践的经验。此外,它还探讨了在下一个云原生时代Tomcat的新形态,以及GraalVM静态编译在Web容器应用中的使用实践。

    2023-11-21 11:21:24
    赞同 5 展开评论 打赏
  • 《Apache Tomcat 的云原生演进》是一本关于Apache Tomcat的书籍,它全面介绍了Tomcat的历史和现状,并分享了在喜马拉雅中实践的经验。此外,它还探讨了在下一个云原生时代Tomcat的新形态,以及GraalVM静态编译在Web容器应用中的使用实践。

    image.png

    这本书对于对Tomcat感兴趣的读者来说是一本很好的参考资料。通过阅读这本书,读者可以深入了解Tomcat的技术内幕,了解它在云原生时代的发展趋势。同时,书中还分享了一些实践经验,可以帮助读者更好地应用Tomcat在实际项目中。

    总之,通过阅读《Apache Tomcat 的云原生演进》,你可以深入了解Tomcat的技术内幕,了解它在云原生时代的发展趋势,并从书中分享的实践经验中受益。在评论区留言时,可以从多个角度进行思考和表达,分享你对本书的想法和收获。

    2023-11-21 10:39:59
    赞同 5 展开评论 打赏
  • 刚读了《Apache Tomcat 的云原生演进》这本书,收获颇丰。

    这本书全面介绍了 Apache Tomcat 的发展历程和技术内幕,让我对 Tomcat 的前世今生有了更深入的了解。
    image.png

    书中分享了在喜马拉雅中实践的经验,让我对 Tomcat 在实际应用中的表现有了更清晰的认识。
    image.png

    此外,书中还介绍了在下一个云原生时代 Tomcat 的新形态,探索了 GraalVM 静态编译在 Web 容器应用中的使用实践,让我对未来的技术趋势有了更准确的把握。

    这本书对于想要了解 Apache Tomcat 和云原生技术的读者来说是一本非常值得一读的电子书。

    2023-11-21 10:39:57
    赞同 4 展开评论 打赏
  • 没看过这本书,待会看看

    2023-11-21 10:34:36
    赞同 3 展开评论 打赏
  • 我刚刚阅读了《Apache Tomcat 的云原生演进》这本书,它给我留下了深刻的印象。

    Apache Tomcat 是开源的 Servlet 容器,它提供了对 Java Servlet 和 JSP 的支持,并且被视为一个单独的 Web 服务器。然而,不能将它与 Apache Web 服务器混淆,因为两者并非捆绑在一起。Tomcat 包含了一个配置管理工具,也可以通过编辑 XML 格式的配置文件来进行配置。

    Apache Tomcat 的应用非常广泛,它被视为网页服务三剑客之一,与 Apache 和 nginx 并列。作为一个 Servlet 容器,它可以处理 PHP, CGI, JSP 等动态网页,但本身只支持 HTML 即普通网页。因此,它通常与 Apache 结合使用,Apache 可以处理静态网页,而 Tomcat 可以处理动态网页。Tomcat 本身也内含了一个 HTTP 服务器,它可以被视作一个单独的 Web 服务器。这种特点使得它在一些场景下可以替代 Apache 的功能。
    《Apache Tomcat 的云原生演进》这本书让我对 Apache Tomcat 有了更深入的了解,我从中学习到了很多关于 Tomcat 的知识,也对 Web 服务器的理解更加深入。我强烈推荐所有对 Web 技术感兴趣的人都来阅读这本书。

    2023-11-21 10:33:42
    赞同 3 展开评论 打赏
滑动查看更多
问答排行榜
最热
最新

相关电子书

更多
云原生加速数字创新的新质生产力 立即下载
为创新提速,打造智算时代的云原生应用平台 立即下载
云原生产业大会:阿里云精彩内容集锦 立即下载

相关镜像