能ping通，TCP就一定能连通吗？

墨蓝 2023-09-28 20:54 15阅读 0赞

平时，我们想要知道，自己的机器到目的机器之间，**网络通不通**，一般会执行**ping命令**。

一般对于状况良好的网络来说，你能看到它对应的`loss`丢包率为`0%`，也就是所谓的**能ping通**。如果看到丢包率`100%`，也就是**ping不通**。

![c7b4885409adac9d10e6d7c6e20fdd4b.png][]

ping正常

![ee2e1411dc5e554680653c8dcaa6bd3b.png][]

ping不通

那么问题来了，假设我能**ping**通某台机器，那这时候如果我改用**TCP协议**去发数据到目的机器，**也一定能通吗？**

或者换个问法，**ping和tcp协议走的网络路径是一样的吗？**

这时候第一反应就是**不一定**，因为ping完之后中间链路里的**某个路由器可能会挂了（断电了）**，再用TCP去连就会走别的路径。

也没错。但假设，**中间链路没发生任何变化呢？**

我先直接说答案。

**不一定，走的网络路径还是有可能是不同的。**

今天就来聊聊为什么。

我之前写过一篇[《断网了，还能ping通 127.0.0.1 吗？》][ping_ 127.0.0.1],里面提到过**ping数据包和tcp数据包的区别**。

![8e4241512143a8b14f25c028d5166acb.png][]

ping和TCP发消息的区别

我们知道网络是分层的，每一层都有对应协议。

![de5f301388145a46ba01b9302dfedcbf.png][]

五层网络协议对应的消息体变化分析

而这网络层就像搭积木一样，上层协议都是基于下层协议搭出来的。

**不管是ping（用了ICMP协议）还是tcp本质上都是基于网络层IP协议的数据包，而到了物理层，都是二进制01串，都走网卡发出去了。**

如果网络环境没发生变化，目的地又一样，那按道理说他们走的网络路径应该是一样的，什么情况下会不同呢？

我们就从**路由**这个话题聊起吧。

#### 网络路径 ####

在我们的想象中，当我们想在两台机器之间传输数据。本机和目的机器之间会建立一条连接，像**一条管道**一样，数据从这头到那头。这条管道其实是我们为了方便理解而抽象出来的概念。

实际上，我们将数据包从本地网卡发出之后，会经过各种**路由器（或者交换机）**，才能到达目的机器。

这些路由器数量众多，相互之间可以互连，连起来之后就像是一张大网，所以叫**"网络"**可以说是非常的形象。

![cd026865a45682e341519fa7ed20e697.png][]

路由器构成的网络

> 考虑到交换机有的功能，路由器基本上都支持，所以我们这边只讨论路由器。

那么现在问题来了，**路由器收到数据后，怎么知道应该走哪条路径，传给哪个路由器？**

#### 路径由什么决定？ ####

在上面的那么大一张网络中，随便一个路由器都有可能走任何一个路径，将数据发到另外一个路由器上，

但路由和路由之间距离，带宽啥的可能都不同。

于是就很需要知道，**两点之间走哪条路才是最优路径**。

于是问题就变成了这样一个**图状结构**。每条边都带有**成本或权重**，算这上面**任意两点的最短距离**。

![b335912fcb2eb8e6c3e33144bcc19038.png][]

路由器和Dijkstra

这时候想必大家回忆压不住要上来了。

这题我熟，这就是大学时候刷的**Dijkstra算法**。菊花厂的OJ笔试题集里也经常出现，现在终于明白为什么他们家的笔试题里图类题目比别的大厂貌似要多一些了吧，因为菊花厂就是搞通信的，做路由器的老玩家了。

路由表的生成

基于**Dijkstra算法**，封装出了一个新的协议，**OSPF协议**（**O**pen **S**hortest **P**ath **F**irst, 开放最短路径优先）。

有了OSPF，路由器就得到了网络图里自己到其他点之间的**最短距离**，于是就知道了**数据包要到某个点，该走哪条最优路径**。

将这些信息汇成一张表，也就是我们常说的**路由表**。

路由表里记录了到什么IP需要走什么端口，以及走这条路径的成本（`metric`）。

可以通过 `route` 命令查看到。

![8a3f62c932f73fbde01ae199e068c9a0.png][]

route表

路由表决定数据包路径

数据包在发送的过程中，会在**网络层**加入**目标地址IP**。

路由器会根据这个**IP**跟**路由表**去做匹配。

然后路由表，会告诉路由器，什么样的消息该转发到什么端口。

举个例子。

![9c09a8cd8d7afad25a40f0391d7b11a8.png][]

通过路由表转发数据

假设A要发消息到D。也就是`192.168.0.105/24`要发消息到`192.168.1.11/24`。

那么A会把消息经发到路由器。

路由器已知目的地IP`192.168.1.11/24` ，去跟**路由表**做匹配，发现`192.168.1.0/24`, 就在e2端口，那么就会把消息从e2端口发出，（可能还会经过交换机）最后把消息打到目的机器。

当然，如果路由表里找不到，那就打到**默认网关**吧，也就是从e1口发出，发到IP`192.0.2.1`。**这个路由器的路由表不知道该去哪，说不定其他路由器知道**。

路由表的匹配规则

上面的例子里，是只匹配上了路由表里的**一项**，所以只能是它了。

但是，条条大路通罗马。实际上能到目的地的路径肯定有很多。

**如果路由表里有很多项都被匹配上了，会怎么选？**

如果多个路由项都能到目的地，那就优先选**匹配长度更长**的那个。比如，还是目的地`192.168.1.11`，发现路由表里的**192.168.1**.0/**24** 和 **192.168**.0.0/**16**都能匹配上，但明显**前者匹配长度更长**，所以最后会走 **192.168.1**.0/**24**对应的转发端口。

**但如果两个表项的匹配长度都一样呢？**

那就会看生成这个路由表项的**协议**是啥，选优先级高的，优先级越高也就是所谓的**管理距离**（**AD**，**A**dministrative**D**istance）越小。比如说优先选**手动配**的静态（**static**）路由，次优选**OSPF**动态学习过来的表项。

如果还是相同，就看**度量值metrics**，其实也就是**路径成本cost**，成本越小，越容易被选中。

**路由器能选的路线有很多，但按道理，最优的只有"一条"，所以到这里为止，我们都可以认为，对于同一个目的地，ping和TCP走的路径是相同的。**

但是。

**如果连路径成本都一样呢？**也就是说有多条最优路径呢。

**那就都用**。

这也就是所谓的**等价多路径，ECMP**（**E**qual **C**ost **M**ulti**P**ath）。

我们可以通过`traceroute`看下链路是否存在等价多路径的情况。

![29857fb1fe77d193fdb42d5b649329ab.png][]

可以看到，中间某几行，有**好几个IP**，也就是说这一跳里同时可以选好几个目的机器，说明这段路径**支持ECMP**。

ECMP有什么用

利用等价多路径，我们**可以增加链路带宽**。

举个例子。

![ee1a409c5ba782741dff5dd6a17824e1.png][]

没有ECMP时只能选择某一条路径

从A点到B点，如果这两条路径成本不同，带宽都是`1千兆`。那数据包肯定就选成本低的那条路了，如果这条路出故障了，就走下面那条路。但不管怎么样，**同一时间，只用到了一条路径**。另外一条闲置就有些浪费了，有没有办法可以利用起来呢？

有，将它们两条路径的成本设置成一样，那它们就成了等价路由，然后中间的路由器开启**ECMP**特性，就可以同时利用这两条链路了。带宽就从原来的`1千兆`变成了`2千兆`。数据就可以在两条路径中随意选择了。

![16d98708ba2c915018fc5f5ee2f8e801.png][]

利用ECMP可以同时使用两条链路

但这也带来了另外一个问题。**加剧了数据包乱序**。

原来我只使用一条网络路径，数据依次发出，如无意外，也是依次到达。

现在两个数据包走两条路径，先发的数据包可能后到。这就乱序了。

那么问题又又来了。

乱序会有什么问题？

对于我们最最最常使用的TCP协议来说，它是个可靠性网络的协议，这里提到的**可靠**，不仅是保证数据要能送到目的地，还要保证**数据顺序**要跟原来发送端的一样。

实现也很简单，**TCP为每个数据包（segment）做上编号**。数据到了接收端后，根据**数据包编号**发现是**乱序数据包**，就会扔到**乱序队列**中对数据包进行排序。如果前面的数据包还没到，哪怕后面的数据包先到了，也得在乱序队列中一直等，到齐后才能被上层拿到。

举个例子，发送端发出三个数据包，`编号1,2,3`，假设在**传输层**`2和3`先到了，`1`还没到。那此时**应用层**是没办法拿到`2和3`的数据包的，必须得等`1`来了之后，**应用层才能一次性拿到这三个包**。因为这三个包原来可能表示的是一个完整的消息，少了1, 那么**消息就不完整**，应用层拿到了也毫无意义。

像这种，由于**前面的数据丢失**导致**后面的数据没办法及时给到应用层**的现象，就是我们常说的**TCP队头阻塞**。

![0d89a42c4e941fddb104a19e9b3e4dad.png][]

乱序队列等待数据包的到来

乱序发生时`2和3`需要待在乱序队列中，而**乱序队列其实用的也是接收缓冲区的内存**，而**接收缓冲区是有大小限制的**。通过下面的命令可以看到接收缓冲区的大小。

# 查看接收缓冲区
    $ sysctl net.ipv4.tcp_rmem
    net.ipv4.tcp_rmem = 4096(min)    87380(default)  6291456(max)
    # 缓冲区会在min和max之间动态调整

乱序的情况越多，接收缓冲区的内存就被占用的越多，对应的**接收窗口**就会变小，那正常能收的数据就变少了，**网络吞吐就变差**了，也就是性能变差了。

因此，我们需要尽量保证所有**同一个TCP连接下的所有TCP包都走相同路径，这样才能最大程度避免丢包**。

ECMP的路径选择策略

**当初开启ECMP就是为了提升性能，现在反而加重了乱序，降低了TCP传输性能。**

这怎么能忍。

为了解决这个问题，我们需要有一个合理的路径选择策略。为了避免同一个连接里的数据包乱序，我们需要保证同一个连接里的数据包，都走同样的路径。

这好办。我们可以通过连接的**五元组**（发送方的**IP**和**端口**，接收方的**IP**和**端口**，以及通信**协议**）信息定位到唯一一条连接。

![875280d46235c874c8aed3b9038e3384.png][]

五元组

然后对五元组信息生成哈希键，让同一个哈希键的数据走同一条路径，问题就完美解决了。

![e4e74a76421fd07ec192e098dcb1c706.png][]

五元组映射成hash键

![9a6ada0d90a1951331ff5a37cc648e4e.png][]

根据五元组选择ECMP路径

#### TCP和Ping走的网络路径一样吗 ####

现在我们回到文章开头的问题。

对于同样的发送端和接收端，**TCP和Ping走的网络路径一样吗？**

不一定一样，因为**五元组**里的信息里有一项是**通信协议**。ping用的是**ICMP协议**，跟**TCP协议**不同，并且ping不需要用到端口，所以五元组不同，生成的**哈希键不同**，通过ECMP选择到的路径也可能不同。

![fc1437c1e33719e3b7090b066b301185.png][]

TCP和ping的五元组差异

#### 同样都用TCP协议，数据包走的网络路径一样吗 ####

还是同样的发送端和接收端，同样是TCP协议，不同TCP连接走的网络路径是一样的吗？

跟上面的问题一样，其实**还是五元组的问题**，同样都是TCP协议，对于同样的发送端和接收端，他们的IP和接收端的端口肯定是一样的，但**发送方的端口是可以随时变化**的，因此通过ECMP走的路径也可能不同。

![c41c57da19e36df6cbf87256bc773a4f.png][]

不同TCP连接的五元组差异

但问题又来了。

**我知道这个有什么用呢？我做业务开发，又没有设置网络路由的权限。**

#### 利用这个知识点排查问题 ####

对于业务开发，这绝对不是个没用的知识点。

如果某天，你发现，你能ping通目的机器，但用TCP去连，却**偶尔连不上**目的机器。而且两端机器都挺空闲，没什么性能上的瓶颈。实在**走投无路**了。

你就可以想想，会不会是网络中用到了`ECMP`，其中一条链路有问题导致的。

![d1a292511263d859500a07878ac6dc46.png][]

ping能成功但部分TCP连接失败

排查方法也很简单。

你是知道本机的IP以及目的机器的IP和端口号的，也知道自己用的是TCP连接。

只要你在**报错的时候打印下错误信息，你就知道了发送端的端口号了。**

这样**五元组**是啥你就知道了。

下一步就是**指定发送端的端口号重新发起TCP请求，同样的五元组，走同样的路径，按理说如果链路有问题，就肯定会复现。**

如果不想改自己的代码，你可以用**nc命令指定客户端端口**看下能不能正常建立TCP连接。

nc -p 6666 baidu.com 80

`-p 6666`是指定发出请求的客户端端口是`6666`，后面跟着的是**连接的域名**和**80端口**。

![f37e43cf1244e4bb8803a98afbecccb2.png][]

通过nc成功建立tcp连接

假设用了`6666端口`的五元组去连接**总是失败**，改用`6667或其他端口`**却能成功**，你可以带着这个信息去找找负责网络的同事。

#### 总结 ####

*  路由器可以通过OSPF协议生成路由表，利用数据包里的IP地址去跟路由表做匹配，选择最优路径后进行转发。
 *  当路由表一个都匹配不上时会走默认网关。当匹配上多个的时候，会先看**匹配长度**，如果一样就看**管理距离**，还一样就看**路径成本**。如果连路径成本都一样，那**等价路径**。如果路由开启了ECMP，那就可以同时利用这几条路径做传输。
 *  ECMP可以提高链路带宽，同时利用五元组做哈希键进行路径选择，保证了同一条连接的数据包走同一条路径，减少了乱序的情况。
 *  可以通过traceroute命令查看到链路上是否有用到ECMP的情况。
 *  开启了ECMP的网络链路中，TCP和ping命令可能走的路径不同，甚至同样是TCP，不同连接之间，走的路径也不同，因此出现了连接时好时坏的问题，实在是走投无路了，可以考虑下是不是跟ECMP有关。
 *  当然，**遇到问题多怀疑自己，要相信绝大部分时候真的跟ECMP无关**。

[c7b4885409adac9d10e6d7c6e20fdd4b.png]: https://img-blog.csdnimg.cn/img_convert/c7b4885409adac9d10e6d7c6e20fdd4b.png
[ee2e1411dc5e554680653c8dcaa6bd3b.png]: https://img-blog.csdnimg.cn/img_convert/ee2e1411dc5e554680653c8dcaa6bd3b.png
[ping_ 127.0.0.1]: https://mp.weixin.qq.com/s?__biz=Mzg5NDY2MDk4Mw==&mid=2247486417&idx=1&sn=c648ca9f2d33f77d69ae3c615c62b77e&scene=21#wechat_redirect
[8e4241512143a8b14f25c028d5166acb.png]: https://img-blog.csdnimg.cn/img_convert/8e4241512143a8b14f25c028d5166acb.png
[de5f301388145a46ba01b9302dfedcbf.png]: https://img-blog.csdnimg.cn/img_convert/de5f301388145a46ba01b9302dfedcbf.png
[cd026865a45682e341519fa7ed20e697.png]: https://img-blog.csdnimg.cn/img_convert/cd026865a45682e341519fa7ed20e697.png
[b335912fcb2eb8e6c3e33144bcc19038.png]: https://img-blog.csdnimg.cn/img_convert/b335912fcb2eb8e6c3e33144bcc19038.png
[8a3f62c932f73fbde01ae199e068c9a0.png]: https://img-blog.csdnimg.cn/img_convert/8a3f62c932f73fbde01ae199e068c9a0.png
[9c09a8cd8d7afad25a40f0391d7b11a8.png]: https://img-blog.csdnimg.cn/img_convert/9c09a8cd8d7afad25a40f0391d7b11a8.png
[29857fb1fe77d193fdb42d5b649329ab.png]: https://img-blog.csdnimg.cn/img_convert/29857fb1fe77d193fdb42d5b649329ab.png
[ee1a409c5ba782741dff5dd6a17824e1.png]: https://img-blog.csdnimg.cn/img_convert/ee1a409c5ba782741dff5dd6a17824e1.png
[16d98708ba2c915018fc5f5ee2f8e801.png]: https://img-blog.csdnimg.cn/img_convert/16d98708ba2c915018fc5f5ee2f8e801.png
[0d89a42c4e941fddb104a19e9b3e4dad.png]: https://img-blog.csdnimg.cn/img_convert/0d89a42c4e941fddb104a19e9b3e4dad.png
[875280d46235c874c8aed3b9038e3384.png]: https://img-blog.csdnimg.cn/img_convert/875280d46235c874c8aed3b9038e3384.png
[e4e74a76421fd07ec192e098dcb1c706.png]: https://img-blog.csdnimg.cn/img_convert/e4e74a76421fd07ec192e098dcb1c706.png
[9a6ada0d90a1951331ff5a37cc648e4e.png]: https://img-blog.csdnimg.cn/img_convert/9a6ada0d90a1951331ff5a37cc648e4e.png
[fc1437c1e33719e3b7090b066b301185.png]: https://img-blog.csdnimg.cn/img_convert/fc1437c1e33719e3b7090b066b301185.png
[c41c57da19e36df6cbf87256bc773a4f.png]: https://img-blog.csdnimg.cn/img_convert/c41c57da19e36df6cbf87256bc773a4f.png
[d1a292511263d859500a07878ac6dc46.png]: https://img-blog.csdnimg.cn/img_convert/d1a292511263d859500a07878ac6dc46.png
[f37e43cf1244e4bb8803a98afbecccb2.png]: https://img-blog.csdnimg.cn/img_convert/f37e43cf1244e4bb8803a98afbecccb2.png