netstat监控大量ESTABLISHED连接数和TIME_WAIT连接数题解决

àì夳堔傛蜴生んèń 2022-05-19 23:56 195阅读 0赞

https://www.cnblogs.com/sunxucool/p/3449068.html

查看网络连接数：

netstat -an |wc -l

netstat -an |grep xx |wc -l 查看某个/特定ip的连接数

netstat -an |grep TIME\_WAIT|wc -l 查看连接数等待time\_wait状态连接数

netstat -an |grep ESTABLISHED |wc -l 查看建立稳定连接数量

查看不同状态的连接数数量

\[root@cp-nginx ~\]\# netstat -an | awk '/^tcp/ \{++y\[$NF\]\} END \{for(w in y) print w, y\[w\]\}'

LISTEN 8

ESTABLISHED 2400

FIN\_WAIT1 2

TIME\_WAIT 6000

查看每个ip跟服务器建立的连接数

\[root@cp-nginx ~\]\# netstat -nat|awk '\{print$5\}'|awk -F : '\{print$1\}'|sort|uniq -c|sort -rn

31 45.116.147.178

20 45.116.147.186

12 23.234.45.34

11 103.56.195.17

（PS：正则解析：显示第5列，-F : 以：分割，显示列，sort 排序，uniq -c统计排序过程中的重复行，sort -rn 按纯数字进行逆序排序）

查看每个ip建立的ESTABLISHED/TIME\_OUT状态的连接数

\[root@cp-nginx ~\]\# netstat -nat|grep ESTABLISHED|awk '\{print$5\}'|awk -F : '\{print$1\}'|sort|uniq -c|sort -rn

24 103.56.195.17

19 45.116.147.186

18 103.56.195.18

17 45.116.147.178

问题1：解决time\_wait连接数大量问题

查询到time\_wait连接数过多情况下，调整内核参数：/etc/sysctl.conf

vim /etc/sysctl.conf

添加以下配置文件：

net.ipv4.tcp\_syncookies = 1  
net.ipv4.tcp\_tw\_reuse = 1  
net.ipv4.tcp\_tw\_recycle = 1  
net.ipv4.tcp\_fin\_timeout = 300

/sbin/sysctl -p 让参数生效，调优完成

参数详解：

1.net.ipv4.tcp\_syncookies = 1 表示开启 syn cookies 。当出现 syn 等待队列溢出时，启用 cookies 来处理，可防范少量 syn \*\*\*，默认为 0 ，表示关闭；

2.net.ipv4.tcp\_tw\_reuse = 1 表示开启重用。允许将 time-wait sockets 重新用于新的 tcp 连接，默认为 0 ，表示关闭；  
3.net.ipv4.tcp\_tw\_recycle = 1 表示开启 tcp 连接中 time-wait sockets 的快速回收，默认为 0 ，表示关闭。  
4.net.ipv4.tcp\_fin\_timeout 修改系靳默认的 timeout 时间

如果以上配置调优后性能还不理想，可继续修改一下配置：

vi /etc/sysctl.conf

net.ipv4.tcp_keepalive_time = 1200 #表示当keepalive起用的时候，TCP发送keepalive消息的频度。缺省是2小时，改为20分钟。
    
    net.ipv4.ip_local_port_range = 1024 65000 #表示用于向外连接的端口范围。缺省情况下很小：32768到61000，改为1024到65000。
    
    net.ipv4.tcp_max_syn_backlog = 8192 #表示SYN队列的长度，默认为1024，加大队列长度为8192，可以容纳更多等待连接的网络连接数。
    
    net.ipv4.tcp_max_tw_buckets = 5000 #表示系统同时保持TIME_WAIT套接字的最大数量，如果超过这个数字，TIME_WAIT套接字将立刻被清除并打印警告信息。
    默认为180000，改为5000。
    对于Apache、Nginx等服务器，上几行的参数可以很好地减少TIME_WAIT套接字数量，但是对于 Squid，效果却不大。此项参数可以控制TIME_WAIT套接字的最大数量，避免Squid服务器被大量的TIME_WAIT套接字拖死。

问题2：ESTABLISHED连接数过大问题

怎么解决请求结束后依然存在大量ESTABLISHED没有被释放

初步推断是tomcat服务器回收session时出了问题，这个一般都跟服务器的Timeout设置有联系。

查看tomcat的配置文件 server.xml

<Connector port="8080" protocol="HTTP/1.1"
                   connectionTimeout="20000"
                   redirectPort="8443" URIEncoding="UTF-8" />
    *****

检查配置得出20000毫秒的时候acceptCount=”100” ，明显不合理，最大连接数也太小了吧。

所以进一步优化：

connectionTimeout="20000" 改为 connectionTimeout="100"
    
    acceptCount="100"改为acceptCount="5000"

优化完毕，继续压测...

系统响应能力节节攀升，之前LoadRunner报错问题直到压倒\*\*\*并发也再也没有出现。

Action.c(380): 错误 -26608: 对于“http://www.cnlogs.com/javame”，HTTP 状态代码=504 (Gateway Time-out)

昨天解决了一个HttpClient调用错误导致的服务器异常，具体过程如下：

[http://blog.csdn.net/shootyou/article/details/6615051][http_blog.csdn.net_shootyou_article_details_6615051]

里头的分析过程有提到，通过查看服务器网络状态检测到服务器有大量的CLOSE\_WAIT的状态。

在服务器的日常维护过程中，会经常用到下面的命令：

\[plain\] [view plain][] [copy][view plain] [print][view plain] [?][view plain]

1.  netstat -n | awk '/^tcp/ \{++S\[$NF\]\} END \{for(a in S) print a, S\[a\]\}'

它会显示例如下面的信息：

TIME\_WAIT 814  
CLOSE\_WAIT 1  
FIN\_WAIT1 1  
ESTABLISHED 634  
SYN\_RECV 2  
LAST\_ACK 1

常用的三个状态是：ESTABLISHED 表示正在通信，TIME\_WAIT 表示主动关闭，CLOSE\_WAIT 表示被动关闭。

具体每种状态什么意思，其实无需多说，看看下面这种图就明白了，注意这里提到的服务器应该是业务请求接受处理的一方：

![0_13110767960diZ.gif][]

这么多状态不用都记住，只要了解到我上面提到的最常见的三种状态的意义就可以了。一般不到万不得已的情况也不会去查看网络状态，如果服务器出了异常，百分之八九十都是下面两种情况：

1.服务器保持了大量TIME\_WAIT状态

2.服务器保持了大量CLOSE\_WAIT状态

因为linux分配给一个用户的文件句柄是有限的（可以参考：[http://blog.csdn.net/shootyou/article/details/6579139][http_blog.csdn.net_shootyou_article_details_6579139]），而TIME\_WAIT和CLOSE\_WAIT两种状态如果一直被保持，那么意味着对应数目的通道就一直被占着，而且是“占着茅坑不使劲”，一旦达到句柄数上限，新的请求就无法被处理了，接着就是大量Too Many Open Files异常，tomcat崩溃。。。

下 面来讨论下这两种情况的处理方法，网上有很多资料把这两种情况的处理方法混为一谈，以为优化系统内核参数就可以解决问题，其实是不恰当的，优化系统内核参 数解决TIME\_WAIT可能很容易，但是应对CLOSE\_WAIT的情况还是需要从程序本身出发。现在来分别说说这两种情况的处理方法：

1.服务器保持了大量TIME\_WAIT状态

这种情况比较常见，一些爬虫服务器或者WEB服务器（如果网管在安装的时候没有做内核参数优化的话）上经常会遇到这个问题，这个问题是怎么产生的呢？

从 上面的示意图可以看得出来，TIME\_WAIT是主动关闭连接的一方保持的状态，对于爬虫服务器来说他本身就是“客户端”，在完成一个爬取任务之后，他就 会发起主动关闭连接，从而进入TIME\_WAIT的状态，然后在保持这个状态2MSL（max segment lifetime）时间之后，彻底关闭回收资源。为什么要这么做？明明就已经主动关闭连接了为啥还要保持资源一段时间呢？这个是TCP/IP的设计者规定 的，主要出于以下两个方面的考虑：

1.防止上一次连接中的包，迷路后重新出现，影响新连接（经过2MSL，上一次连接中所有的重复包都会消失）  
2. 可靠的关闭TCP连接。在主动关闭方发送的最后一个 ack(fin) ，有可能丢失，这时被动方会重新发fin, 如果这时主动方处于 CLOSED 状态 ，就会响应 rst 而不是 ack。所以主动方要处于 TIME\_WAIT 状态，而不能是 CLOSED 。另外这么设计TIME\_WAIT 会定时的回收资源，并不会占用很大资源的，除非短时间内接受大量请求或者受到攻击。

关于MSL引用下面一段话：

\[plain\] [view plain][] [copy][view plain] [print][view plain] [?][view plain]

1.  MSL 為 一個 TCP Segment (某一塊 TCP 網路封包) 從來源送到目的之間可續存的時間 (也就是一個網路封包在網路上傳輸時能存活的時間)，由 於 RFC 793 TCP 傳輸協定是在 1981 年定義的，當時的網路速度不像現在的網際網路那樣發達，你可以想像你從瀏覽器輸入網址等到第一 個 byte 出現要等 4 分鐘嗎？在現在的網路環境下幾乎不可能有這種事情發生，因此我們大可將 TIME\_WAIT 狀態的續存時間大幅調低，好 讓 連線埠 (Ports) 能更快空出來給其他連線使用。

再引用网络资源的一段话：

\[plain\] [view plain][] [copy][view plain] [print][view plain] [?][view plain]

1.  值 得一说的是，对于基于TCP的HTTP协议，关闭TCP连接的是Server端，这样，Server端会进入TIME\_WAIT状态，可 想而知，对于访 问量大的Web Server，会存在大量的TIME\_WAIT状态，假如server一秒钟接收1000个请求，那么就会积压 240\*1000=240，000个 TIME\_WAIT的记录，维护这些状态给Server带来负担。当然现代操作系统都会用快速的查找算法来管理这些 TIME\_WAIT，所以对于新的 TCP连接请求，判断是否hit中一个TIME\_WAIT不会太费时间，但是有这么多状态要维护总是不好。 
2.  HTTP协议1.1版规定default行为是Keep-Alive，也就是会重用TCP连接传输多个 request/response，一个主要原因就是发现了这个问题。

也就是说HTTP的交互跟上面画的那个图是不一样的，关闭连接的不是客户端，而是服务器，所以web服务器也是会出现大量的TIME\_WAIT的情况的。

现在来说如何来解决这个问题。

解决思路很简单，就是让服务器能够快速回收和重用那些TIME\_WAIT的资源。

下面来看一下我们网管对/etc/sysctl.conf文件的修改：

\[plain\] [view plain][] [copy][view plain] [print][view plain] [?][view plain]

1.  \#对于一个新建连接，内核要发送多少个 SYN 连接请求才决定放弃,不应该大于255，默认值是5，对应于180秒左右时间 
2.  net.ipv4.tcp\_syn\_retries=2 
3.  \#net.ipv4.tcp\_synack\_retries=2 
4.  \#表示当keepalive起用的时候，TCP发送keepalive消息的频度。缺省是2小时，改为300秒 
5.  net.ipv4.tcp\_keepalive\_time=1200 
6.  net.ipv4.tcp\_orphan\_retries=3 
7.  \#表示如果套接字由本端要求关闭，这个参数决定了它保持在FIN-WAIT-2状态的时间 
8.  net.ipv4.tcp\_fin\_timeout=30 
9.  \#表示SYN队列的长度，默认为1024，加大队列长度为8192，可以容纳更多等待连接的网络连接数。 
10. net.ipv4.tcp\_max\_syn\_backlog = 4096 
11. \#表示开启SYN Cookies。当出现SYN等待队列溢出时，启用cookies来处理，可防范少量SYN攻击，默认为0，表示关闭 
12. net.ipv4.tcp\_syncookies = 1 
13. 
14. \#表示开启重用。允许将TIME-WAIT sockets重新用于新的TCP连接，默认为0，表示关闭 
15. net.ipv4.tcp\_tw\_reuse = 1 
16. \#表示开启TCP连接中TIME-WAIT sockets的快速回收，默认为0，表示关闭 
17. net.ipv4.tcp\_tw\_recycle = 1 
18. 
19. \#\#减少超时前的探测次数 
20. net.ipv4.tcp\_keepalive\_probes=5 
21. \#\#优化网络设备接收队列 
22. net.core.netdev\_max\_backlog=3000

\[plain\] [view plain][] [copy][view plain] [print][view plain] [?][view plain]

修改完之后执行/sbin/sysctl -p让参数生效。

这里头主要注意到的是 net.ipv4.tcp\_tw\_reuse

net.ipv4.tcp\_tw\_recycle  
net.ipv4.tcp\_fin\_timeout  
net.ipv4.tcp\_keepalive\_\*

这几个参数。

net.ipv4.tcp\_tw\_reuse和net.ipv4.tcp\_tw\_recycle的开启都是为了回收处于TIME\_WAIT状态的资源。

net.ipv4.tcp\_fin\_timeout这个时间可以减少在异常情况下服务器从FIN-WAIT-2转到TIME\_WAIT的时间。

net.ipv4.tcp\_keepalive\_\*一系列参数，是用来设置服务器检测连接存活的相关配置。

关于keepalive的用途可以参考：[http://hi.baidu.com/tantea/blog/item/580b9d0218f981793812bb7b.html][http_hi.baidu.com_tantea_blog_item_580b9d0218f981793812bb7b.html]

2.服务器保持了大量CLOSE\_WAIT状态

休息一下，喘口气，一开始只是打算说说TIME\_WAIT和CLOSE\_WAIT的区别，没想到越挖越深，这也是写博客总结的好处，总可以有意外的收获。

TIME\_WAIT状态可以通过优化服务器参数得到解决，因为发生TIME\_WAIT的情况是服务器自己可控的，要么就是对方连接的异常，要么就是自己没有迅速回收资源，总之不是由于自己程序错误导致的。

但是CLOSE\_WAIT就不一样了，从上面的图可以看出来，如果一直保持在CLOSE\_WAIT状态，那么只有一种情况，就是在对方关闭连接之后服务器程序自己没有进一步发出ack信号。换句话说，就是在对方连接关闭之后，程序里没有检测到，或者程序压根就忘记了这个时候需要关闭连接，于是这个资源就一直被程序占着。个人觉得这种情况，通过服务器内核参数也没办法解决，服务器对于程序抢占的资源没有主动回收的权利，除非终止程序运行。

如果你使用的是HttpClient并且你遇到了大量CLOSE\_WAIT的情况，那么这篇日志也许对你有用：[http://blog.csdn.net/shootyou/article/details/6615051][http_blog.csdn.net_shootyou_article_details_6615051]

在那边日志里头我举了个场景，来说明CLOSE\_WAIT和TIME\_WAIT的区别，这里重新描述一下：

服 务器A是一台爬虫服务器，它使用简单的HttpClient去请求资源服务器B上面的apache获取文件资源，正常情况下，如果请求成功，那么在抓取完 资源后，服务器A会主动发出关闭连接的请求，这个时候就是主动关闭连接，服务器A的连接状态我们可以看到是TIME\_WAIT。如果一旦发生异常呢？假设 请求的资源服务器B上并不存在，那么这个时候就会由服务器B发出关闭连接的请求，服务器A就是被动的关闭了连接，如果服务器A被动关闭连接之后程序员忘了 让HttpClient释放连接，那就会造成CLOSE\_WAIT的状态了。

所以如果将大量CLOSE\_WAIT的解决办法总结为一句话那就是：查代码。因为问题出在服务器程序里头啊。

参考资料：

1.windows下的TIME\_WAIT的处理可以参加这位大侠的日志：[http://blog.miniasp.com/post/2010/11/17/How-to-deal-with-TIME\_WAIT-problem-under-Windows.aspx][http_blog.miniasp.com_post_2010_11_17_How-to-deal-with-TIME_WAIT-problem-under-Windows.aspx]

2.WebSphere的服务器优化有一定参考价值： [http://publib.boulder.ibm.com/infocenter/wasinfo/v6r0/index.jsp?topic=/com.ibm.websphere.express.doc/info/exp/ae/tprf\_tunelinux.html][http_publib.boulder.ibm.com_infocenter_wasinfo_v6r0_index.jsp_topic_com.ibm.websphere.express.doc_info_exp_ae_tprf_tunelinux.html]

3.各种内核参数的含义： [http://haka.sharera.com/blog/BlogTopic/32309.htm][http_haka.sharera.com_blog_BlogTopic_32309.htm]

4. linux服务器历险之sysctl优化linux网络： [http://blog.csdn.net/chinalinuxzend/article/details/1792184][http_blog.csdn.net_chinalinuxzend_article_details_1792184]

近期服务器出现大量time\_wait的TCP连接造成服务器连接数过多而最终导致tomcat假死状态。连接服务器查看连接数的时候提示如下。

1.  \[root@test apache-tomcat-7.0.53\]\# netstat -n | awk '/^tcp/ \{++S\[$NF\]\} END \{for(a in S) print a, S\[a\]\}'
2.  TIME\_WAIT 14434
3.  FIN\_WAIT2 6
4.  ESTABLISHED 133

很明显可以看出是请求太多频繁，主要由于后端服务器之间是通过rest请求相互调用的，而java服务器回收tcp线程速度比较慢，虽然已经有显性的关闭连接了，但是实际在调

用的时候连接回收还是较慢。通过java API解决这个问题的路子就堵死了。

后来去服务器查阅了大量资料，可以考虑通过修改linux内核的方式解决此处问题。解决方法如下：

vi /etc/sysctl.conf

添加配置信息

1.  \#表示开启SYN Cookies。当出现SYN等待队列溢出时，启用cookies来处理，可防范少量SYN攻击。默认为0，表示关闭
2.  net.ipv4.tcp\_syncookies = 1
3.  \#表示开启重用tcp连接。允许将TIME-WAIT sockets重新用于新的TCP连接。默认为0，表示关闭
4.  net.ipv4.tcp\_tw\_reuse = 1
5.  \#表示开启TCP连接中TIME-WAIT sockets的快速回收。默认为0，表示关闭
6.  net.ipv4.tcp\_tw\_recycle = 1
7.  \#表示如果套接字由本端要求关闭，这个参数决定了它保持在FIN-WAIT-2状态的时间
8.  net.ipv4.tcp\_fin\_timeout = 30

让参数配置生效

/sbin/sysctl -p

问题完美解决：

1.  \[root@test apache-tomcat-7.0.53\]\# netstat -n | awk '/^tcp/ \{++S\[$NF\]\} END \{for(a in S) print a, S\[a\]\}'
2.  TIME\_WAIT 96
3.  FIN\_WAIT2 3
4.  ESTABLISHED 141
5.

[http_blog.csdn.net_shootyou_article_details_6615051]: http://blog.csdn.net/shootyou/article/details/6615051
[view plain]: http://blog.csdn.net/shootyou/article/details/6622226
[0_13110767960diZ.gif]: /images/20220520/81aa2f1db3944c4285dba6cd4f8fa38d.png
[http_blog.csdn.net_shootyou_article_details_6579139]: http://blog.csdn.net/shootyou/article/details/6579139
[http_hi.baidu.com_tantea_blog_item_580b9d0218f981793812bb7b.html]: http://hi.baidu.com/tantea/blog/item/580b9d0218f981793812bb7b.html
[http_blog.miniasp.com_post_2010_11_17_How-to-deal-with-TIME_WAIT-problem-under-Windows.aspx]: http://blog.miniasp.com/post/2010/11/17/How-to-deal-with-TIME_WAIT-problem-under-Windows.aspx
[http_publib.boulder.ibm.com_infocenter_wasinfo_v6r0_index.jsp_topic_com.ibm.websphere.express.doc_info_exp_ae_tprf_tunelinux.html]: http://publib.boulder.ibm.com/infocenter/wasinfo/v6r0/index.jsp?topic=/com.ibm.websphere.express.doc/info/exp/ae/tprf_tunelinux.html
[http_haka.sharera.com_blog_BlogTopic_32309.htm]: http://haka.sharera.com/blog/BlogTopic/32309.htm
[http_blog.csdn.net_chinalinuxzend_article_details_1792184]: http://blog.csdn.net/chinalinuxzend/article/details/1792184