Tomcat服务器Day10-Tomcat性能调优

柔光的暖阳◎ 2022-11-05 03:28 8阅读 0赞

### Tomcat性能调优 ###

*  Tomcat性能测试
 *   *  ApacheBench
     *   *  安装
         *  验证是否安装成功
         *  部署项目
         *  性能测试
         *  性能测试结果说明
 *  Tomcat性能调优
 *   *  内存分配
     *  GC策略
 *  Tomcat配置调优

# Tomcat性能测试 #

*  性能测试最直观的衡量指标就是系统的加载和操作时间,也就是用户执行某项操作的耗时
 *  性能测试可以从以下两个指标进行量化:
    
     *  **响应时间:** 执行某个操作的耗时. 大多数情况下,需要针对同一个操作测试多次来获取操作的平均响应时间
     *  **吞吐量:** 在给定的时间内,系统支持的事务数量.单位为**TPS**
 *  使用一些自动化测试工具来进行性能测试,目前主流的性能测试工具有:
    
     *  **ApacheBench**
     *  **ApacheJMeter**
     *  **WCAT**
     *  **WebPolygrah**
     *  **LoadRunner**

## ApacheBench ##

*  **ApacheBench**是一款**ApacheServer**基准的测试工具,可以用于测试**ApacheServer**每秒处理请求数的服务能力
 *  **ApacheBench**不仅可以用于**Apache**的测试,还可以用于**Tomcat, Nginx, lighthttp, IIS**服务器

### 安装 ###

yum install httpd-tools

### 验证是否安装成功 ###

ab -V

### 部署项目 ###

*  在服务器上安装**Tomcat**
 *  将项目的**war**包上传至**Tomcat**的**webapps**目录下
 *  导入项目**SQL,** 准备数据库连接

mysql> source table.sql

*  可以在控制台打开项目的执行日志

tail -f logs/catalina.out

### 性能测试 ###

*  使用**ApacheBench**的性能测试命令测试**Tomcat**服务器性能:

ab -n 1000 -c 100 -p data.json -T application/json http://localhost:8080/add

*  性能测试命令参数说明:

<table> 
 <thead> 
  <tr> 
   <th>参数</th> 
   <th>说明</th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td>-n</td> 
   <td>在测试会话中执行的请求<br>默认只执行一次请求</td> 
  </tr> 
  <tr> 
   <td>-c</td> 
   <td>一次产生的请求个数<br>默认一次只产生一个请求</td> 
  </tr> 
  <tr> 
   <td>-p</td> 
   <td>进行POST请求的数据文件</td> 
  </tr> 
  <tr> 
   <td>-t</td> 
   <td>测试进行的最长时间<br>默认没有时间限制</td> 
  </tr> 
  <tr> 
   <td>-T</td> 
   <td>进行POST请求数据所需要使用的Content-Type头信息</td> 
  </tr> 
 </tbody> 
</table>

### 性能测试结果说明 ###

*  性能测试结果说明:

<table> 
 <thead> 
  <tr> 
   <th>指标名称</th> 
   <th>说明</th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td>Server Software</td> 
   <td>服务器软件</td> 
  </tr> 
  <tr> 
   <td>Server Hostname</td> 
   <td>服务器主机名称</td> 
  </tr> 
  <tr> 
   <td>Server Port</td> 
   <td>服务器主机端口号</td> 
  </tr> 
  <tr> 
   <td>Document Path</td> 
   <td>测试的页面</td> 
  </tr> 
  <tr> 
   <td>Document Length</td> 
   <td>测试的页面的大小</td> 
  </tr> 
  <tr> 
   <td>Concurrency Level</td> 
   <td>并发数</td> 
  </tr> 
  <tr> 
   <td>Time taken for tests</td> 
   <td>整个性能测试持续的时间</td> 
  </tr> 
  <tr> 
   <td>Complete requests</td> 
   <td>完成请求的数量</td> 
  </tr> 
  <tr> 
   <td>Failed requests</td> 
   <td>失败的请求数量<br>这里的失败是指请求的连接服务器,发送数据,接收数据等环节发生异常,以及无响应后超时的情况</td> 
  </tr> 
  <tr> 
   <td>Write errors</td> 
   <td>输出错误的数量</td> 
  </tr> 
  <tr> 
   <td>Total transfered</td> 
   <td>整个场景中的网络传输量<br>表示所有请求的响应数据长度总和,包括每个http响应数据的头信息和正文数据的长度</td> 
  </tr> 
  <tr> 
   <td>HTML transfered</td> 
   <td>整个场景中的HTML内容传输量<br>表示所有请求的响应数据中正文数据的总和</td> 
  </tr> 
  <tr> 
   <td>Request per second</td> 
   <td>每秒平均处理的请求数<br>相当于LR中每秒事务数,这个就是服务器的吞吐率,值为 <span><span><span> C o m p l e t e r e q u e s t s T i m e t a k e n f o r t e s t s \frac{Complete requests}{Time taken for tests} </span><span><span><span style="height: 1.41332em; vertical-align: -0.481108em;"></span><span><span></span><span><span><span><span style="height: 0.932216em;"><span style="top: -2.655em;"><span style="height: 3em;"></span><span><span><span style="margin-right: 0.13889em;">T</span><span>i</span><span>m</span><span>e</span><span>t</span><span>a</span><span style="margin-right: 0.03148em;">k</span><span>e</span><span>n</span><span style="margin-right: 0.10764em;">f</span><span>o</span><span style="margin-right: 0.02778em;">r</span><span>t</span><span>e</span><span>s</span><span>t</span><span>s</span></span></span></span><span style="top: -3.23em;"><span style="height: 3em;"></span><span style="border-bottom-width: 0.04em;"></span></span><span style="top: -3.44611em;"><span style="height: 3em;"></span><span><span><span style="margin-right: 0.07153em;">C</span><span>o</span><span>m</span><span>p</span><span style="margin-right: 0.01968em;">l</span><span>e</span><span>t</span><span>e</span><span style="margin-right: 0.02778em;">r</span><span>e</span><span style="margin-right: 0.03588em;">q</span><span>u</span><span>e</span><span>s</span><span>t</span><span>s</span></span></span></span></span><span></span></span><span><span style="height: 0.481108em;"><span></span></span></span></span></span><span></span></span></span></span></span></span></td> 
  </tr> 
  <tr> 
   <td>Time per request</td> 
   <td>每个线程处理请求的平均消耗时间<br>相当于LR中的平均事务响应时间,也是平均用户等待时间</td> 
  </tr> 
  <tr> 
   <td>Transfer rate</td> 
   <td>平均每秒网上的流量</td> 
  </tr> 
  <tr> 
   <td>Percentage of requests serverd within a certain time(ms)</td> 
   <td>指定时间内执行的请求百分比</td> 
  </tr> 
 </tbody> 
</table>

*  **重要指标:**

<table> 
 <thead> 
  <tr> 
   <th>指标名称</th> 
   <th>说明</th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td>Requests per second</td> 
   <td>吞吐率<br> 服务器并发处理能力的量化描述,单位是reqs/s. 指的是在某个并发用户数下单位时间内处理的请求数<br>某个并发用户数下单位时间内能处理的最大请求数,称为最大吞吐率<br>这个数值表示当前服务器的整体性能,值越大越好</td> 
  </tr> 
  <tr> 
   <td>Time per request</td> 
   <td>用户平均等待时间<br>这是用户角度完成一个请求所需要的时间</td> 
  </tr> 
  <tr> 
   <td>Time per request(across all concurrent requests)</td> 
   <td>服务器平均等待时间<br>服务器完成一个请求的时间</td> 
  </tr> 
  <tr> 
   <td>Concurrency Level</td> 
   <td>并发用户数</td> 
  </tr> 
 </tbody> 
</table>

# Tomcat性能调优 #

*  **Tomcat**是一款**Java**应用,因此**JVM**的配置与**Tomcat**的运行性能密切相关
 *  **JVM**的优化重点在于两个方面:
    
     *  **内存分配**
        
         *  内存会直接影响服务的运行效率和吞吐量
     *  **GC策略**
        
         *  **JVM**垃圾回收机制会不同程度导致程序运行中断
         *  根据应用程序的特点,选择不同的垃圾回收策略
         *  调整**JVM**垃圾回收策略,可以极大减少垃圾回收次数,提升垃圾回收效率,改善程序运行性能

## 内存分配 ##

*  **JVM内存参数配置说明:**

<table> 
 <thead> 
  <tr> 
   <th>内存参数</th> 
   <th>描述</th> 
   <th>说明</th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td>-server</td> 
   <td>以服务端模式运行应用</td> 
   <td>推荐开启以服务端模式运行</td> 
  </tr> 
  <tr> 
   <td>-Xms</td> 
   <td>最小堆内存</td> 
   <td>推荐与最大内存存 -Xmx 设置相同值</td> 
  </tr> 
  <tr> 
   <td>-Xmx</td> 
   <td>最大堆内存</td> 
   <td>推荐设置为可用内存的 80%</td> 
  </tr> 
  <tr> 
   <td>-XX:MetaspaceSize</td> 
   <td>元空间的初始值</td> 
   <td>推荐使用默认值</td> 
  </tr> 
  <tr> 
   <td>-XX:MaxMetaspaceSize</td> 
   <td>元空间的最大内存</td> 
   <td>推荐使用默认值无限大</td> 
  </tr> 
  <tr> 
   <td>-XX:MaxNewSize</td> 
   <td>新生代的最大内存</td> 
   <td>推荐使用默认值 16M</td> 
  </tr> 
  <tr> 
   <td>-XX:NewRatio</td> 
   <td>年轻代和老年代的内存值的比值,取值为整数</td> 
   <td>推荐使用默认值 2</td> 
  </tr> 
  <tr> 
   <td>-XX:SurvivorRatio</td> 
   <td>Eden区与Survivor区内存值的比值,取值为整数</td> 
   <td>推荐使用默认值 8</td> 
  </tr> 
 </tbody> 
</table>

*  配置**JVM**内存参数指令:

JAVA_OPTS="-server -Xms2048m -Xmx2048m -XX:MetaspaceSize=256m -XX:MaxMetaspaceSize=512m"

*  查看**Tomcat**的**JVM**内存参数信息:
    
     *  首先获取**Tomcat**的进程**ID:**
    
        ps -ef|grep tomcat
    
     *  执行查看**JVM**内存参数的指令查看**JVM**内存参数:
    
        jmap -heap 51904

## GC策略 ##

*  **JVM**的垃圾回收性能主要包含以下两个指标:
    
     *  **吞吐量:** 工作时间占总时间的百分比. 其中工作时间是排除**GC**垃圾回收时间,但是包括程序运行时间和内存分配时间
     *  **暂停时间:** **GC**垃圾回收期间导致程序停止响应的时间
 *  垃圾回收器的类型:
    
     *  **串行收集器:** Serial Collector
        
         *  使用单线程执行所有的垃圾回收工作
         *  适用于单核**CPU**的服务器
     *  **并行收集器:** Parallel Collector
        
         *  吞吐量收集器, 以并行的方式执行年轻代的垃圾回收工作
         *  可以显著降低垃圾回收的开销,多条垃圾回收线程并行工作,但是用户线程处于等待状态
         *  适用于多处理器或者多线程硬件上运行的数据量比较大的应用
     *  **并发收集器:** Concurrent Collector
        
         *  以并发的方式执行大部分垃圾回收工作,用以缩短垃圾回收的暂停时间
         *  可以最小化垃圾回收的暂停时间. 在垃圾回收期间,用户线程和垃圾回收线程是同时执行的,但是不一定是并行,可能会交替进行.可能会降低应用程序的性能
         *  适用于响应时间优先于吞吐量的应用程序
     *  **CMS收集器:** Concurrent Mark Sweep Collector
        
         *  并发标记清除收集器
         *  适用于需要缩短垃圾回收暂停时间并且执行与垃圾回收共享处理器资源的应用
     *  **G1收集器:** Garbage-First Garbage Collector
        
         *  **JDK1.7**之后的垃圾收集器,可以在满足垃圾回收暂停时间目标的同时,以最大的可能性实现高吞吐量
         *  适用于大容量内存的多核服务器
 *  不同的应用程序,对于垃圾回收有不同的需求 **. JVM**会根据运行的平台,服务资源配置选择合适的垃圾收集器,堆内存以及运行时的编译器,总体满足以下原则:
    
     *  程序数据量小时,选择串行收集器
     *  应用运行在单核处理器并且没有暂停时间的限制需求时,可交由**JVM**自行选择垃圾收集器,或者选择串行收集器
     *  需要应用程序具有较高的性能,但是对程序的暂停时间没有需求时,可以使用并行收集器
     *  需要应用程序的响应时间较高,对整吞吐量没有限制要求时,可以使用并发收集器或者**CMS**收集器
 *  查看**Tomcat**中的垃圾收集器:
    
     *  如果查看的是本地**Tomcat**服务器的**JVM**信息,直接使用**JDK**的**jconsole**打开本地**Tomcat**线程,查看**JVM**概要信息
     *  如果查看的是远程**Tomcat**服务器的**JVM**信息,需要在远程**Tomcat**的中的**tomcat/bin/catalina.sh**配置中,加入以下配置后再使用**JDK**的**jconsole**查看远程**Tomcat**的**JVM**概要信息
    
        JAVA_OPTS="-Djava.rmi.server.hostname=192.168.6.36 -Dcom.sun.management.jmxremote.port=8866 -Dcom.sun.management.jmxremote.rmi.port=8866 -Dcom.sun.management.jmxremote.ssl=false -Dcom.sun.management.jmxremote.authenticate=false"
 *  调整**JAVA\_OPTS**中的参数启动指定的**GC**收集器:

<table> 
 <thead> 
  <tr> 
   <th>参数</th> 
   <th>说明</th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td>-XX:+UseSerialGC</td> 
   <td>启用串行收集器</td> 
  </tr> 
  <tr> 
   <td>-XX:+UseParallelGC</td> 
   <td>启用并行收集器<br>如果配置了该选项,那么-XX:+UseParallelOldGC自动启用</td> 
  </tr> 
  <tr> 
   <td>-XX:+UseParallelOldGC</td> 
   <td>FullGC采用并行收集器<br>默认禁用,如果设置了-XX:+UseParallelGC则自动启用</td> 
  </tr> 
  <tr> 
   <td>-XX:ParallelGCThreads</td> 
   <td>年轻代及老年代垃圾回收使用的线程数<br>默认值依赖于JVM使用的CPU个数</td> 
  </tr> 
  <tr> 
   <td>-XX:+UseParNewGC</td> 
   <td>年轻代使用并行收集器<br>如果设置了-XX:+UseConcMarkSweepGC自动则启用</td> 
  </tr> 
  <tr> 
   <td>-XX:+UseConcMarkSweepGC</td> 
   <td>老年代采用CMS垃圾收集器<br>当并行收集器无法满足应用的延迟需求时,推荐使用CMS或者G1收集器.如果配置了该选项,那么-XX:+UseParNewGC自动启用</td> 
  </tr> 
  <tr> 
   <td>-XX:+UseG1GC</td> 
   <td>启用G1收集器<br>G1收集器是服务器类型的收集器,适用于多核,大内存的机器.可以在高吞吐量的情况下,满足GC暂停时间的目标</td> 
  </tr> 
 </tbody> 
</table>

*  调整**JAVA\_OPTS**中的参数打印出**GC**执行时的相关信息:

<table> 
 <thead> 
  <tr> 
   <th>参数</th> 
   <th>说明</th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td>-XX:+PrintGC</td> 
   <td>打印每次的GC信息</td> 
  </tr> 
  <tr> 
   <td>-XX:+PrintGCApplicationConcurrentTime</td> 
   <td>打印响应并发执行的时间<br>最后一次执行之后所经过的时间</td> 
  </tr> 
  <tr> 
   <td>-XX:PrintGCApplicationStoppedTime</td> 
   <td>打印GC时应用暂停的时间</td> 
  </tr> 
  <tr> 
   <td>-XX:PrintGCDateStamps</td> 
   <td>打印每次GC时的日期戳</td> 
  </tr> 
  <tr> 
   <td>-XX:PrintGCDetails</td> 
   <td>打印每次GC时的详细信息</td> 
  </tr> 
  <tr> 
   <td>-XX:PrintGCTaskTimeStamps</td> 
   <td>打印每个GC工作线程任务的时间戳</td> 
  </tr> 
  <tr> 
   <td>-XX:PrintGCTimeStamps</td> 
   <td>打印每次GC时的时间戳</td> 
  </tr> 
 </tbody> 
</table>

# Tomcat配置调优 #

*  调整**tomcat/conf/server.xml**中的连接器 **< Connector />** 标签的参数可以对连接器进行配置来提升应用服务器的性能:
    
     *  **maxConnections:** 最大连接数
        
         *  当服务器接收的连接数到达该值时,服务器接收但不会处理更多的请求,额外的请求会阻塞直到连接数小于最大连接数**maxConnections**
         *  配置最大连接数需要参考服务器硬件性能的限制,可以通过**ulimit -a**指令查看服务器的限制
         *  当应用对**CPU**的性能要求很高时,最大连接数**maxConnections**的值不能配置过大. 当应用对**CPU**的性能要求不高时,推荐配置最大连接数**maxConnection**的值为**2000.** 这个也是要服务器的硬件性能的支持
     *  **maxThreads:** 最大线程数
        
         *  需要根据服务器硬件性能的支持,配置一个合理的值
     *  **acceptCount:** 最大排队等待数
        
         *  当服务器接收的请求数量达到最大连接数时,额外的请求会放在任务队列中进行等待
         *  **acceptCount**就是任务队列中排队等待的请求数
         *  **Tomcat**服务器的最大请求处理的数量值就是最大连接数**maxConnections**和最大排队等待数**acceptCount**之和