JVM(一)-JVM与Java体系结构

1.前言

1. 是否遇到这类问题？

• 运行着的线上系统突然卡死，系统无法访问，甚至直接OOM
• 想解决线上的JVM GC 问题，但是无从下手
• 新项目上线，对各种JVM参数设置一脸茫然，直接默认吧，然后就JJ了
• 每次面试之前都要重新背一遍JVM的一些原理概念性的东西，然而面试官缺经常问你在实际项目中如何调优JVM参数，如何解决GC、OOM问题，一脸懵逼

2. 大部分Java开发人员，除会在项目中使用到与Java平台相关的各种高精尖技术，对于Java技术的核心Java虚拟机了解甚少
   
3. 开发人员如何看待上层框架

• 一些有一定工作经验的开发人员，心中觉得SSM，微服务等上层技术才是重点，基础技术并不重要，这其实是一种本末倒置的“病态”
• 如果把核心类库的API必做数学公式的话，那么Java虚拟机的知识就好比公式的推导过程

4. 计算机系统体系对我们来说越来越远，在不了解底层实现方式的前提下，通过高级语言很容易编写代码程序，但是计算机并不认识高级语言
5. 架构师每天都在思考什么？

• 如何让我的系统化更快
• 如何避免系统出现瓶颈

6. 为什么学习JVM？

• 面试的需要
• 中高级程序员必备技能：项目管理、调优的需要
• 追求极客的精神：垃圾回收算法、JIT、底层原理

7. Java vs C++
   

• 垃圾收集机制为我们打理了很多繁琐的工作，大大提高了开发的效率，但是，垃圾收集也不是万能的，懂得JVM内部的内存结构、工作机制，是设计高扩展性应用和诊断运行时问题的基础，也会java工程师进阶的必备能力

2.Java和JVM简介

一次编译，到处运行

1. JVM：跨语言的平台

• 随着Java7的正式发布，Java虚拟机的设计者们通过JSR-292规范基本实现在Java虚拟机上运行非Java语言编写的程序；
• Java虚拟机不关心在其内部的程序到底是使用何种语言编写的，他只关心“字节码”文件，也就是说Java虚拟机拥有语言无关性，并不会单纯的与Java语言“终身绑定”，只要其他编程语言结果满足并包含Java虚拟机的内部指令集、符号表以及其他的辅助信息，他就是一个有效字节码文件，就能够被虚拟机所识别并装载运行。
• Java不是最强大的语言，但是JVM是最强大的虚拟机\color{#FF0000}{Java不是最强大的语言，但是JVM是最强大的虚拟机}Java不是最强大的语言，但是JVM是最强大的虚拟机

2. 字节码

• 我们平时所说的java字节码，指的就是java语言编译成的字节码。准确的说任何能在jvm平台上执行的字节码格式都是一样的 。所以应该统称为:JVM字节码\color{#FF3030}{JVM字节码}JVM字节码
• 不同的编译器，可以编译出相同的字节码文件，字节码文件也可以在不同的JVM上运行
• Java虚拟机与Java语言并没有必要的联系，他只与特定的二进制文件格式-Class文件格式所关联，Class文件中包含了Java虚拟机指令集（或称为字节码、Bytecodes）和符号表，还有一些其他的辅助信息

3. 多语言混合编程

• Java平台上的多语言混合编程正在成为主流，通过特定领域的语言去解决特定领域的问题是当前软件开发应对日趋复杂的项目需求的一个方向
• 多种语言交互不存在任何困难，就像使用自己语言的原生API一样方便，因为他们最终都运行在一个虚拟机上
• 对这些运行于Java虚拟机之上、Java语言之外的语言，来自系统的、底层的支持正在迅速增强，推动Java虚拟机从“Java语言的虚拟机”向“多语言虚拟机”的方向发展。

3. 虚拟机与Java虚拟机

1. 虚拟机

• 所谓虚拟机（Virtual Machine）就是一台虚拟的计算机。它是一款软件，用来执行一系列虚拟计算机指令。大体上，虚拟机可以分为系统虚拟机和程序虚拟机

• VMware就是系统虚拟机，他们完全是对物理计算机的方针，提供了一个可运行完整操作系统的软件平台
• 程序虚拟机的典型代表就是Java虚拟机，它专门为执行单个计算机程序而设计，在Java虚拟机中执行的指令我们称为Java字节码指令

• 无论是系统虚拟机还是程序虚拟机，在上面运行的软件都被限制于虚拟机提供的资源中

2. Java虚拟机

• Java虚拟机是一台执行Java字节码的虚拟计算机，它拥有独立的运行机制，其运行的Java字节码也未必由Java语言编译而成
• JVM平台的各种语言可以共享Java虚拟机带来的跨平台性、优秀的垃圾回收，以及可靠的即时编译器
• Java技术的核心就是Java虚拟机（JVM,Java Virtual Machine）因为所有的Java程序都运行在Java虚拟机内部
• 作用：Java虚拟机就是二进制字节码的运行环境,负责装载到字节码到其内部，解释/编译为对应平台上的机器指令执行，每一条Java指令，Java虚拟机规范中都有详细的定义，如怎么取操作数，处理结果放在哪里
• 特点：①一次编译，到处运行 ②自动内存管理  ③自动垃圾回收功能

3. 
4. JVM是运行在操作系统之上的，它与硬件没有直接的交互
   
5. JVM的整体结构
   

• HotSpot VM 是目前市面上高性能虚拟机的代表作之一
• 它采用解释器与即使编译器并存的架构
• 在今天，Java程序的运行性能早已脱胎换骨，已经达到了可以和C/C++程序一较高下的地步

4. Java代码执行流程

4.JVM的架构模型

1. Java编译器输入的指令流基本上是一种基于栈的指令集架构，另外一种指令集架构是基于寄存器的指令集架构

• 基于栈式架构的特点

• 设计和实现更简单，适用于资源受限的系统
• 避开了寄存器的分配难题：使用零地址指令方式分配
• 指令流中的指令大部分是零地址指令，其执行过程依赖于操作栈。指令集更小，编译器容易实现
• 不需要硬件实现，可移植性更好，更好实现跨平台

• 基于寄存器架构的特点

• 典型的应用是x86的二进制指令集：比如传统的PC以及Android的Davlik虚拟机
• 指令集架构则完全依赖硬件，可移植性差
• 性能优秀和执行更高效
• 花费更少的只领取完成一项操作
• 在大部分情况下，基于寄存器架构的指令集往往都以一地址指令、二地址指令和三地址指令为主，而基于栈式架构的指令集却是以零地址为主

2. 举例1：同样执行2+3 这种逻辑操作，其指令分别如下：

• 基于栈式的计算流程（以Java虚拟机为例）:

iconst_2  //常量2入栈
istore_1
iconst_3  //常量3入栈
istore_2
iload_1
iload_2
iadd      // 常量2、3出栈，执行相加
istore_0  //结果5入栈
复制代码

• 基于寄存器的计算流程

mov eax,2  //将eax寄存器的值设为2
add eax,3  //将eax寄存器的值加3
复制代码

1. 举例2 方法

public int calc(){
    int a = 100;
    int b = 200;
    int c = 300;
    return (a + b) * c;
}
复制代码

编译之后的文件

public int calc();
 Code:
  Stack=2, locals=4Args_size=1
  0: bipush  100
  2: istore_1
  3: sipush 200
  6: istore_2
  7: sipush 300
  10: istore_3
  11: iload_1
  12: iload_2
  13: iadd
  14: iload_3
  15: imul
  16: ireturn
复制代码

具体执行过程如下：

4. 总结

• 由于跨平台性的设计，Java的指令都是根据栈来设计的。不同平台CPU架构不同，所以不能设计基于寄存器的。优点是跨平台，指令集小，编译器容易实现，缺点是性能下降，实现同样的功能需要更多的指令
• 基于栈式的优点：跨平台性，指令集小、指令多；执行性能比寄存器差

5.JVM的生命周期

1. 虚拟机的启动

• Java虚拟机的启动是通过引导类加载器（bootstrap class loader）创建一个初始类（initial class）来完成的，这个类是由虚拟机的具体实现指定的

2. 虚拟机执行

• 一个运行中的Java虚拟机有着一个清晰的任务：执行java程序
• 程序开始时它才运行，程序结束时他就停止
• 执行一个所谓的Java程序的时候，真真正正在执行的是一个叫做Java虚拟机的进程

3. 虚拟机的退出

• 程序正常执行结束
• 程序在执行过程中遇到了异常或错误而异常终止
• 由于操作系统出现错误而导致Java虚拟机进程终止
• 某线程调用Runtime类或System类的exit方法，或Runtime类的halt方法并且Java安全管理器也允许这次exit或halt操作
• 除此之外，JNI（Java Native Interface） 规范描述了用JNI Invocation API来加载或卸载Java虚拟机时，Java虚拟机的退出

6.JVM的发展历程

1. Sun Classic VM

• 早在1996年Java1.0版本的时候，Sun公司发布了一款名为sun classic VM的Java虚拟机，它同时也是世界上第一款商用Java虚拟机，JDK1.4时完全被淘汰。
• 这款虚拟机内部只提供解释器，没有即时编译器，因此效率比较低，即时编译器会把热点代码缓存起来，那么以后使用热点代码的时候，效率就比较高。
• 如果使用JIT编译器，就需要进行外挂。但是一旦使用了JIT编译器，JIT就会接管虚拟机的执行系统。解释器就不再工作。解释器和编译器不能配合工作。
• 现在Hotspot内置了此虚拟机。

2. Exact VM 为了解决上一个虚拟机问题，jdk1.2时，Sun提供了此虚拟机。

• Exact Memory Management：准确式内存管理
• 具备现代高性能虚拟机的维形，热点探测（寻找出热点代码进行缓存）编译器与解释器混合工作模式
• 只在Solaris平台短暂使用，其他平台上还是classic vm，英雄气短，终被Hotspot虚拟机替换

3. HotSpot VM

• HotSpot历史
  
• 最初由一家名为“Longview Technologies”的小公司设计，1997年，此公司被Sun收购；2009年，Sun公司被甲骨文收购。
  
• JDK1.3时，HotSpot VM成为默认虚拟机
  
• 目前Hotspot占有绝对的市场地位
  
• 从服务器、桌面到移动端、嵌入式都有应用。
  
• 名称中的HotSpot指的就是它的热点代码探测技术。在编译器与解释器中取得最佳执行平衡
  

4. JRockit

• 专注于服务器端应用：它可以不太关注程序启动速度，因此JRockit内部不包含解析器实现，全部代码都靠即时编译器编译后执行。
• 大量的行业基准测试显示，JRockit JVM是世界上最快的JVM：使用JRockit产品，客户已经体验到了显著的性能提高（一些超过了70%）和硬件成本的减少（达50%）。
• JRockit面向延迟敏感型应用的解决方案JRockit Real Time提供以毫秒或微秒级的JVM响应时间，适合财务、军事指挥、电信网络的需要
• Mission Control服务套件，它是一组以极低的开销来监控、管理和分析生产环境中的应用程序的工具。
• 2008年，JRockit被Oracle收购。
• Oracle表达了整合两大优秀虚拟机的工作，大致在JDK8中完成。整合的方式是在HotSpot的基础上，移植JRockit的优秀特性。

5. IBM的 J9

• 全称：IBM Technology for Java Virtual Machine，简称IT4J，内部代号：J9
  
• 市场定位与HotSpot接近，服务器端、桌面应用、嵌入式等多用途VM广泛用于IBM的各种Java产品。
  
• 目前，有影响力的三大商用虚拟机之一，也号称是世界上最快的Java虚拟机。
  
• 2017年左右，IBM发布了开源J9VM，命名为openJ9，交给Eclipse基金会管理，也称为Eclipse OpenJ9
  

6. KVM和CDC / CLDC Hotspot

• Oracle在Java ME产品线上的两款虚拟机为：CDC/CLDC HotSpot Implementation VM KVM（Kilobyte）是CLDC-HI早期产品目前移动领域地位尴尬，智能机被Android和iOS二分天下。
• KVM简单、轻量、高度可移植，面向更低端的设备上还维持自己的一片市场 ，智能控制器、传感器 ，老人手机、经济欠发达地区的功能手机

7. Azul VM

• 前面三大“高性能Java虚拟机”使用在通用硬件平台上这里Azul VW和BEA Liquid VM是与特定硬件平台绑定、软硬件配合的专有虚拟机：高性能Java虚拟机中的战斗机。
• Azul VM是Azul Systems公司在HotSpot基础上进行大量改进，运行于Azul Systems公司的专有硬件Vega系统上的Java虚拟机。

8. Liquid VM

• 高性能Java虚拟机中的战斗机。
• BEA公司开发的，直接运行在自家Hypervisor系统上
• Liquid VM即是现在的JRockit VE（Virtual Edition）
• Liquid VM不需要操作系统的支持，或者说它自己本身实现了一个专用操作系统的必要功能，如线程调度、文件系统、网络支持等。
• 随着JRockit虚拟机终止开发，Liquid vM项目也停止了。

9. Apache Marmony

• Apache也曾经推出过与JDK1.5和JDK1.6兼容的Java运行平台Apache Harmony。
• 它是IElf和Intel联合开发的开源JVM，受到同样开源的Open JDK的压制，Sun坚决不让Harmony获得JCP认证，最终于2011年退役，IBM转而参与OpenJDK
• 虽然目前并没有Apache Harmony被大规模商用的案例，但是它的Java类库代码吸纳进了Android SDK。

10. Micorsoft JVM

• 微软为了在IE3浏览器中支持Java Applets，开发了Microsoft JVM。
• 只能在window平台下运行。但确是当时Windows下性能最好的Java VM。
• 1997年，Sun以侵犯商标、不正当竞争罪名指控微软成功，赔了Sun很多钱。微软WindowsXP SP3中抹掉了其VM。现在Windows上安装的jdk都是HotSpot。

11. Taobao JVM

• 由AliJVM团队发布。阿里，国内使用Java最强大的公司，覆盖云计算、金融、物流、电商等众多领域，需要解决高并发、高可用、分布式的复合问题。有大量的开源产品。
• 基于OpenJDK开发了自己的定制版本AlibabaJDK，简称AJDK。是整个阿里Java体系的基石。
• 基于OpenJDK Hotspot VM发布的国内第一个优化、深度定制且开源的高性能服务器版Java虚拟机。
• 创新的GCIH（GCinvisible heap）技术实现了off-heap，即将生命周期较长的Java对象从heap中移到heap之外，并且GC不能管理GCIH内部的Java对象，以此达到降低GC的回收频率和提升GC的回收效率的目的。
• GCIH中的对象还能够在多个Java虚拟机进程中实现共享
• 使用crc32指令实现JvM intrinsic降低JNI的调用开销
• PMU hardware的Java profiling tool和诊断协助功能
• 针对大数据场景的ZenGC
• taobao vm应用在阿里产品上性能高，硬件严重依赖inte1的cpu，损失了兼容性，但提高了性能
• 目前已经在淘宝、天猫上线，把Oracle官方JvM版本全部替换了。

12. Dalvik VM

• 谷歌开发的，应用于Android系统，并在Android2.2中提供了JIT，发展迅猛。
• Dalvik VM只能称作虚拟机，而不能称作“Java虚拟机”，它没有遵循 Java虚拟机规范
• 不能直接执行Java的Class文件
• 基于寄存器架构，不是jvm的栈架构。
• 执行的是编译以后的dex（Dalvik Executable）文件。执行效率比较高。
• 它执行的dex（Dalvik Executable）文件可以通过class文件转化而来，使用Java语法编写应用程序，可以直接使用大部分的Java API等。
• Android 5.0使用支持提前编译（Ahead of Time Compilation，AoT）的ART VM替换Dalvik VM。

13. Graal VM

• 2018年4月，Oracle Labs公开了GraalvM，号称 “Run Programs Faster Anywhere”，勃勃野心。与1995年java的”write once，run anywhere"遥相呼应。
  
• GraalVM在HotSpot VM基础上增强而成的跨语言全栈虚拟机，可以作为“任何语言” 的运行平台使用。语言包括：Java、Scala、Groovy、Kotlin；C、C++、Javascript、Ruby、Python、R等
  
• 支持不同语言中混用对方的接口和对象，支持这些语言使用已经编写好的本地库文件
  
• 工作原理是将这些语言的源代码或源代码编译后的中间格式，通过解释器转换为能被Graal VM接受的中间表示。Graal VM提供Truffle工具集快速构建面向一种新语言的解释器。在运行时还能进行即时编译优化，获得比原生编译器更优秀的执行效率。
  

总结： 目前市场上最流行的 三大jvm ，HotSpot ，JRockit ， IBM的J9 占有率最高，至于未来，如果说HotSpot有一天真的被取代，Graalvm希望最大。但是Java的软件生态没有丝毫变化。

7.推荐书籍