实战系列-亿级流量秒杀系统JVM调优

素颜马尾好姑娘i 2023-02-20 08:24 12阅读 0赞

> **导语**  
>   关于亿级流量的秒杀系统的调优，其实并不仅仅包括对于JVM的调优，还有包括网络调优、IO调优、负载均衡调优，缓存调优，中间件调优等等一些东西内容的调优计划，一个亿级流量的秒杀系统仅仅是通过JVM的调优来实现一个高性能真的它所起到的作用很小很小。只要有资金，可以把超级计算机改造成服务器。当然这个是开玩笑的。下面的博客中，这通过一个小例子来看看具体在支持秒杀系统流量的应用中怎么让Java应用程序达到一个最优的运行效果。

### 文章目录 ###

*   *  JVM性能调优
     *   *  引用和指针的区别与联系
     *  JVM
     *  JVM架构图
     *  堆内存调优
     *   *  Java 对象分配原理
         *   *  Java对象模型：OOP-Klass模型
             *  对象的创建过程
             *   *  1、开始进行操作
                 *  2、初始化Klass
                 *  3、连接操作
                 *  4、初始化过程
                 *  5、分配实例

## JVM性能调优 ##

在JVM性能调优的系列中，也提到了很多的概念。其实对于JVM的性能调优其实就是对堆内存的调优。怎么让堆内存达到一个高效的利用。对于堆来说，其实它存储的就是对象信息。从JDK1.6开始JVM采用了一种新的技术叫做指针压缩，在C或者C++语言中对于指针的内容涉及到的比较多，而在Java语言中我们更多的是提到的是叫做引用的概念。这里首先来先科普一下引用和指正的区别。

### 引用和指针的区别与联系 ###

**现象**  
  指针在使用的时候可以随意改变它的指向的变量，而引用一旦绑定之后就不再改变，总是指向最初的对象。  
 **编译**  
  程序在编译的时候分别将指针和引用添加到符号表上，符号表上记录的是变量名以及变量所对应的地址。指针变量在符号表上对应的地址值为指针变量的地址值，而引用在符号表上对应的地址值为引用对象的地址值。符号表生成之后不会改变，因此指针可以改变指向的对象，而引用对象不能改变。  
 **类型**  
  引用其值为地址的数据元素，Java封装了的地址，可以转换成字符串进行查看，长度可以不用关心；C语言指针是一个装地址的变量，长度一般是计算机字长，可以认为是int  
 **内存占用**  
   引用声明时没有实体，不占空间。C指针如果声明后会用到才会进行赋值，如果不用则不会分配内存。  
 **内存溢出**  
  Java引用的使用权限比较小，不会产生内存溢出。C语言指针容易产生内存溢出。所以使用的时候格外小心。  
 **本质**  
  Java中的引用和C语言中的指针本质上都是想通过一个别名，找到所要操作的真实数据，方便在程序中进行操作，所不同的是Java引用要比C语言的指针更加安全，使用方便，但是没有C语言灵活，高效

很多人对于JVM调优来说首先需要了解的就是关于底层的一些东西，JVM性能调优包含的内容还是比较多的，包括JVM堆空间大小的分配、垃圾收集器的选择、垃圾回收算法的组合配置。并不是简单的通过一个简单的部分调整就算是是调优了其实根本不算。

## JVM ##

对于JVM ， Java Virtual Machine Java 虚拟机，既然是作为一个虚拟机他就有虚拟机所具有的特性，可以说虚拟机具有的是在操作系统上模拟操作系统的特性，那么JVM所具有的特性就是在操作系统上模拟Java运行时环境的特性。正是因为有了这个特性才支持了Java语言的跨平台性，也就支持了后续的在类Java语言中的一些使用，例如说Groovy、Kotlin这样的可以被编译成Java字节码文件的内容都可以在JVM上进行运行。这里首先来看看博主的电脑中的关于JVM的配置操作。

在命令行中输入java -version 命令会看到如下的一些信息

localhost:bin nihui$ java -version
    java version "1.8.0_74"
    Java(TM) SE Runtime Environment (build 1.8.0_74-b02)
    Java HotSpot(TM) 64-Bit Server VM (build 25.74-b02, mixed mode)
    localhost:bin nihui$

首先看到其中提示 JDK的版本是1.8.0\_74这个版本，并且这里会看到它的JRE是 SE 的运行环境，最后才是关于虚拟机的信息，HotSpot，这个是在Java 中最常用的的一个JVM。从这一个命令演示，显示出来的三行内容中分别提取出来的信息，就是JDK，JRE，以及JVM的相关信息。

有人说我们看过了OpenJDK的源码是不是了解了JVM相关的内容呢？其实并不是这样的。Java语言通过javac 命令 进行语义解释将其编译成为了Class文件，而JRE将这些Class进一步的解释成了机器可以看懂的机器码，应该是经过了如下的一个过程，而这其中的编译器就是JDK，而JRE就是将字节码翻译到JVM中实现到机器码的转换。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L25paHVpMTIz_size_16_color_FFFFFF_t_70]  
  所以说对于JVM来说 第三行信息中展示的HotSpot才是称得上是真正的JVM。而这个是由C/C++进行编写。其实可以将JVM理解为一个用C/C++语言编写的抽象内存结构。而更为底层的调优就可以看做是怎么将Java语言的数据更加高效的表示到这一层的抽象结构上。实际上所谓的堆、栈、方法去、程序计数器、本地方法栈等等的概念如图所示。这些在使用过程中真的存在么？这个有待研究，其实就是一个代码的抽象。

如上图所示第一步编写代码工作，整个块工作内容从根本上讲，没有什么难度，只需要将我们使用的业务逻辑，用编程语言的形式表现出来。也就是说将文字描述的业务逻辑，转变成为数学表示的数据组织逻辑。第二步编译，表现完成业务逻辑之后，就是将人能看到的代码转化为机器能看懂的代码，就需要经历一系列的编译，翻译等过程。经过编译器之后变换为class后缀的字节码。当然这个字节码计算机可能还是不认识，需要将字节码放入的JVM中，通过JVM的解释将其变化为01机器码。在这个过程中，可以通过反编译的手段，或者通过javac -p 的命令进行字节码的查看。JVM是自己通过C/C++实现的一个模拟计算机，它是运行在物理机上的应用程序。但是对于字节码文件它是运行在JVM中的。所以才需要对JVM进行调优工作。下面就是JVM整个的架构图

## JVM架构图 ##

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L25paHVpMTIz_size_16_color_FFFFFF_t_70 1]  
  从图中，可以看到将这个内容可以分为上中下三层。其中最上层就是类加载子系统。主要负责的工作就是将Class字节码文件以一种正确的方式加载到Runtime 环境中，也就是运行时的数据区，这一层中就包括了对象的分配，方法的调用关系等等。最终调用的就是执行引擎来进行操作。  
  而我们的对于JVM的调优就是对于第二层和第三次参数配置的优化。当然我们是不能能完全的自己手写一个新的JVM出来，只有新写一个JVM出来之后才能真正理解上图中的一些内容含义。

## 堆内存调优 ##

首先一个概念Java的调优其实就是对于堆内存空间合理使用的调优。这里有个概念，加入有一块地，一年四季，我们怎么样分配这块地才能使得种到地里的作物长到优的果实，这就到了第一点。对象是怎么分配的  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L25paHVpMTIz_size_16_color_FFFFFF_t_70 2]

### Java 对象分配原理 ###

#### Java对象模型：OOP-Klass模型 ####

这里首先需要介绍一下就是上面提到的HotSpot虚拟机中是怎么样实现Java对象模型的。在JVM中都是通过C++来实现的，我们知道两种编程语言互通是比较困难的，可以了解Java的JNI技术。其实在JVM中，并没有直接将Java对象映射成为C++ 这种对象的机制。而是通过一种叫做OOP-KLass 模型的机制，这个主要是不希望对于每个对象而言都包含其对应的一份虚拟函数表。其中

*  **OOP(Ordinary Object Point) 表示对象实例信息**
 *  **Klass，是Java类在C++语言中的一种表示，用来描述Java的类信息**

这里有一个概念，就是Class类是Java中对于类这个概念的抽象。这里的Klass其实就是Java这个类概念在C++中的抽象。

#### 对象的创建过程 ####

首先需要了解的就是InstanceOopDesc的数据结构，这里是用C++语言实现的，InstanceOopDesc 继承了OopDesc，数据结构如下

class InstanceOopDesc : public OopDesc{
    	private:
    	volatile markOop mark;
    	union metadata{
    		Klass* klass;
    		narrowKlass compressed_klass	
    	} metadata;
    }

&esmp; 其中metadata 是指向 InstanceKlass对象的指针，而mark中存储的就是对象运行时的状态数据，数据结构如下图，在垃圾回收算法系列中也提到过这个概念图，只不过哪个概念图没有这个这么清晰，它将实际存储数据的地方称为域。

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L25paHVpMTIz_size_16_color_FFFFFF_t_70 3]  
  下面就开始看如下的一段内容，这个是以32位机器为例子，为什么读者可以自行考虑？

32 bits:
    --------
    hash:25 ------------>| age:4 biased_lock:1 lock:2 (normal object)
    JavaThread*:23 epoch:2 age:4 biased_lock:1 lock:2 (biased object)
    size:32 ------------------------------------------>| (CMS free block)
    PromotedObject*:29 ---------->| promo_bits:3 ----->| (CMS promoted object)

其中的每一行都表示一种情况

*  hash 哈希码
 *  age 分代年龄
 *  lock 锁状态标识位
 *  JavaThread \* 持有的偏向锁的线程ID
 *  epoch 偏向时间戳

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L25paHVpMTIz_size_16_color_FFFFFF_t_70 4]

##### 1、开始进行操作 #####

首先就是要进行一些准备的操作，这里通过new这个关键字来进行追踪。使用了new之后，在字节码中也会有对应的操作。它所对应的就是初始化一个Klass初始化的准备操作。对于Klass初始化的准备以及所使用的实例的分配。

##### 2、初始化Klass #####

首先第一步就是对class的连接操作，根据上面的内容，连接的过程就是将上面提到的那些参数根据字节码一一映射到对应的InstanceKlass的数据结构中。包括对Hash、Lock、ThreadId等一些参数的操作。

##### 3、连接操作 #####

从图中可以看到连接操作，首先

*  1、先进行父类的连接操作
 *  2、连接所有跟该类相关的接口
 *  3、进行验证，重写
 *  4、进行重写操作
 *  5、重写完成后进行连接操作
 *  6、将该类标记为以连接的状态

##### 4、初始化过程 #####

假设这里需要初始化的类是C这个类型，首先它得持有这个初始化锁LC。

*  1、同步锁LC，防止并发导致多次初始化
 *  2、如果有其他线程正在初始化C，就释放LC并阻塞等待当前线程直到对应线程完成初始化操作
 *  3、如果执行初始化的是当前线程，则表明是一个递归的请求，释放LC并且正常的完成初始化操作
 *  4、如果C已经被初始化了，则释放LC并正常完成初始化
 *  5、如果C对象处于一个错误的状态，则释放LC并抛抛出NoClassDefFoundError异常
 *  6、记录C正在被当前线程初始化并释放LC，初始化类中所有的final static字段
 *  7、如果C是一个类，则需要初始化器父类和接口
 *  8、判断C是否开启断言
 *  9、执行类的初始化方法
 *  10、标记C已经完全被初始化了，并唤醒所有等待线程
 *  11、如果初始化失败，则抛出异常，并将C标记为错误，同时唤醒所有等待线程。

&emps; 上面描述的是JDK11 的规范。实际中HotSpot规范可能会有所差异。

##### 5、分配实例 #####

*  1、是否存在费控的finalize()方法
 *  2、计算类的大小
 *  3、分配对象空间

**堆空间中分配对象**

**内存分配**  
  在默认情况下TLAB（ThreadLocalAllocBuffer）是处于开启状态，而且其对Java 性能的提升是非常显著的

JVM堆空间是所有线程共享的，所以分配一个对象的时候会锁住整个的堆，这样做的效率就比较低，所以在JVM在Eden区分配的时候，分配了一块空间叫做线程私有缓冲区，整个缓冲区就被称为是TLAB。不同线程不共享TLAB，因此TLAB中分配的对象无须进行上锁，就可以达到一个高效分配

有了这个空间之后就有TLAB内分配和TLAB外分配的情况。

**TLAB内分配**  
  TLAB的分配的过程中，被拆分成了两种情况，一种是直接使用线程现有的TLAB来进行分配。首先TLAB分配其实就是一个将top指针向上累加的过程，并且将原来的top位置分配给新的obj，所以这种分配效率比较高，因为它是使用的是start、top、end指针标记的方式。

下面就来看看在TLAB内这种方式是怎么实现的。

*  1、如果TLAB的剩余空间大于阈值，则保留TLAB，这样就会到TLAB外部进行分配，这个操作中，每次TLAB分配失败该TLAB就会调大阈值，以防线程重复分配同样大小的对象。
 *  2、计算一个新的TLAB的的大小，公式= min(可用空间、期待空间+对象占据空间，最大TLAB空间)
 *  3、清理原先的TLAB，会将剩余的未使用的空间填充进一个假数组，创建EDEN连续的假象，并且将start、end、top等指针全部置空。
 *  4、创建一个新的TLAB，空间可能在min\_tlab\_size到new\_tlab\_size之间
 *  5、分配的空间数据全部清零
 *  6、将mem位置分配word\_size大小给obj

**TLAB外分配**

在G1中，对象的分配分为了两种形式：大对象分配、普通分配。由于代码比较长，简单描述大对象的分配过程如下：

*  **检查是否需要GC，如需要则触发GC，因为大对象消耗堆的速度非常快**
 *  **计算大对象需要占据多少区块，尝试分配连续的空闲区块**
 *  **如果没有足够的连续空间，找到一块包含空闲和使用中的连续区块，尝试扩展**
 *  **尝试GC，如果失败达到阈值则分配失败，进行下一步的普通分配**

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L25paHVpMTIz_size_16_color_FFFFFF_t_70 5]

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L25paHVpMTIz_size_16_color_FFFFFF_t_70]: https://img-blog.csdnimg.cn/20200625204143982.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L25paHVpMTIz,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L25paHVpMTIz_size_16_color_FFFFFF_t_70 1]: https://img-blog.csdnimg.cn/20200625204905989.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L25paHVpMTIz,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L25paHVpMTIz_size_16_color_FFFFFF_t_70 2]: https://img-blog.csdnimg.cn/20200625204831689.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L25paHVpMTIz,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L25paHVpMTIz_size_16_color_FFFFFF_t_70 3]: https://img-blog.csdnimg.cn/20200625211328491.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L25paHVpMTIz,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L25paHVpMTIz_size_16_color_FFFFFF_t_70 4]: https://img-blog.csdnimg.cn/20200625214445807.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L25paHVpMTIz,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L25paHVpMTIz_size_16_color_FFFFFF_t_70 5]: https://img-blog.csdnimg.cn/20200625212039810.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L25paHVpMTIz,size_16,color_FFFFFF,t_70