谈谈Netty线程模型

忘是亡心i 2024-03-22 19:04 70阅读 0赞

大家好，我是易安！

Netty是一个高性能网络应用框架，应用非常普遍，目前在Java领域里，Netty基本上成为网络程序的标配了。Netty框架功能丰富，也非常复杂，今天我们主要分析Netty框架中的线程模型，而 **线程模型直接影响着网络程序的性能**。

### **网络编程性能的瓶颈** ###

BIO模型里，所有read()操作和write()操作都会阻塞当前线程的，如果客户端已经和服务端建立了一个连接，而迟迟不发送数据，那么服务端的read()操作会一直阻塞，所以 **使用BIO模型，一般都会为每个socket分配一个独立的线程**，这样就不会因为线程阻塞在一个socket上而影响对其他socket的读写。BIO的线程模型如下图所示，每一个socket都对应一个独立的线程；为了避免频繁创建、消耗线程，可以采用线程池，但是socket和线程之间的对应关系并不会变化。

![alt][]

BIO的线程模型

BIO这种线程模型适用于socket连接不是很多的场景；但是现在的互联网场景，往往需要服务器能够支撑十万甚至百万连接，而创建十万甚至上百万个线程显然并不现实，所以BIO线程模型无法解决百万连接的问题。如果仔细观察，你会发现互联网场景中，虽然连接多，但是每个连接上的请求并不频繁，所以线程大部分时间都在等待I/O就绪。也就是说线程大部分时间都阻塞在那里，这完全是浪费，如果我们能够解决这个问题，那就不需要这么多线程了。

顺着这个思路，我们可以将线程模型优化为下图这个样子，可以用一个线程来处理多个连接，这样线程的利用率就上来了，同时所需的线程数量也跟着降下来了。这个思路很好，可是使用BIO相关的API是无法实现的，这是为什么呢？因为BIO相关的socket读写操作都是阻塞式的，而一旦调用了阻塞式API，在I/O就绪前，调用线程会一直阻塞，也就无法处理其他的socket连接了。

![alt][alt 1]

理想的线程模型图

好在Java里还提供了非阻塞式（NIO）API， **利用非阻塞式API就能够实现一个线程处理多个连接了**。那具体如何实现呢？现在普遍都是 **采用Reactor模式**，包括Netty的实现。所以，要想理解Netty的实现，接下来我们就需要先了解一下Reactor模式。

### **Reactor模式** ###

下面是Reactor模式的类结构图，其中Handle指的是I/O句柄，在Java网络编程里，它本质上就是一个网络连接。Event Handler很容易理解，就是一个事件处理器，其中handle\_event()方法处理I/O事件，也就是每个Event Handler处理一个I/O Handle；get\_handle()方法可以返回这个I/O的Handle。Synchronous Event Demultiplexer可以理解为操作系统提供的I/O多路复用API，例如POSIX标准里的select()以及Linux里面的epoll()。

![alt][alt 2]

Reactor模式类结构图

Reactor模式的核心自然是 **Reactor这个类**，其中register\_handler()和remove\_handler()这两个方法可以注册和删除一个事件处理器； **handle\_events()方式是核心**，也是Reactor模式的发动机，这个方法的核心逻辑如下：首先通过同步事件多路选择器提供的select()方法监听网络事件，当有网络事件就绪后，就遍历事件处理器来处理该网络事件。由于网络事件是源源不断的，所以在主程序中启动Reactor模式，需要以 `while(true){}` 的方式调用handle\_events()方法。

void Reactor::handle_events(){
        
      //通过同步事件多路选择器提供的
      //select()方法监听网络事件
      select(handlers);
      //处理网络事件
      for(h in handlers){
        
        h.handle_event();
      }
    }
    // 在主程序中启动事件循环
    while (true) {
        
      handle_events();
     }

### **Netty的线程模型** ###

Netty的实现虽然参考了Reactor模式，但是并没有完全照搬， **Netty中最核心的概念是事件循环（EventLoop）**，其实也就是Reactor模式中的Reactor， **负责监听网络事件并调用事件处理器进行处理**。在4.x版本的Netty中，网络连接和EventLoop是稳定的多对1关系，而EventLoop和Java线程是1对1关系，这里的稳定指的是关系一旦确定就不再发生变化。也就是说一个网络连接只会对应唯一的一个EventLoop，而一个EventLoop也只会对应到一个Java线程，所以 **一个网络连接只会对应到一个Java线程**。

一个网络连接对应到一个Java线程上，有什么好处呢？最大的好处就是对于一个网络连接的事件处理是单线程的，这样就 **避免了各种并发问题**。

Netty中的线程模型可以参考下图，核心目标是用一个线程处理多个网络连接。

![alt][alt 3]

Netty中的线程模型

Netty中还有一个核心概念是 **EventLoopGroup**，顾名思义，一个EventLoopGroup由一组EventLoop组成。实际使用中，一般都会创建两个EventLoopGroup，一个称为bossGroup，一个称为workerGroup。为什么会有两个EventLoopGroup呢？

这个和socket处理网络请求的机制有关，socket处理TCP网络连接请求，是在一个独立的socket中，每当有一个TCP连接成功建立，都会创建一个新的socket，之后对TCP连接的读写都是由新创建处理的socket完成的。也就是说 **处理TCP连接请求和读写请求是通过两个不同的socket完成的**。上面我们在讨论网络请求的时候，为了简化模型，只是讨论了读写请求，而没有讨论连接请求。

**在Netty中，bossGroup就用来处理连接请求的，而workerGroup是用来处理读写请求的**。bossGroup处理完连接请求后，会将这个连接提交给workerGroup来处理， workerGroup里面有多个EventLoop，那新的连接会交给哪个EventLoop来处理呢？这就需要一个负载均衡算法，Netty中目前使用的是 **轮询算法**。

下面我们用Netty重新实现以下echo程序的服务端，近距离感受一下Netty。

### **用Netty实现Echo程序服务端** ###

下面的示例代码基于Netty实现了echo程序服务端：首先创建了一个事件处理器（等同于Reactor模式中的事件处理器），然后创建了bossGroup和workerGroup，再之后创建并初始化了ServerBootstrap，代码还是很简单的，不过有两个地方需要注意一下。

第一个，如果NettybossGroup只监听一个端口，那bossGroup只需要1个EventLoop就可以了，多了纯属浪费。

第二个，默认情况下，Netty会创建“2\*CPU核数”个EventLoop，由于网络连接与EventLoop有稳定的关系，所以事件处理器在处理网络事件的时候是不能有阻塞操作的，否则很容易导致请求大面积超时。如果实在无法避免使用阻塞操作，那可以通过线程池来异步处理。

//事件处理器
    final EchoServerHandler serverHandler
      = new EchoServerHandler();
    //boss线程组
    EventLoopGroup bossGroup
      = new NioEventLoopGroup(1);
    //worker线程组
    EventLoopGroup workerGroup
      = new NioEventLoopGroup();
    try {
        
      ServerBootstrap b = new ServerBootstrap();
      b.group(bossGroup, workerGroup)
       .channel(NioServerSocketChannel.class)
       .childHandler(new ChannelInitializer<SocketChannel>() {
        
         @Override
         public void initChannel(SocketChannel ch){
        
           ch.pipeline().addLast(serverHandler);
         }
        });
      //bind服务端端口
      ChannelFuture f = b.bind(9090).sync();
      f.channel().closeFuture().sync();
    } finally {
        
      //终止工作线程组
      workerGroup.shutdownGracefully();
      //终止boss线程组
      bossGroup.shutdownGracefully();
    }
    
    //socket连接处理器
    class EchoServerHandler extends
        ChannelInboundHandlerAdapter {
        
      //处理读事件
      @Override
      public void channelRead(
        ChannelHandlerContext ctx, Object msg){
        
          ctx.write(msg);
      }
      //处理读完成事件
      @Override
      public void channelReadComplete(
        ChannelHandlerContext ctx){
        
          ctx.flush();
      }
      //处理异常事件
      @Override
      public void exceptionCaught(
        ChannelHandlerContext ctx,  Throwable cause) {
        
          cause.printStackTrace();
          ctx.close();
      }
    }

### **总结** ###

Netty是一个款优秀的网络编程框架，性能非常好，为了实现高性能的目标，Netty做了很多优化，例如优化了ByteBuffer、支持零拷贝等等，和并发编程相关的就是它的线程模型了。Netty的线程模型设计得很精巧，每个网络连接都关联到了一个线程上，这样做的好处是：对于一个网络连接，读写操作都是单线程执行的，从而避免了并发程序的各种问题。

本文由[ mdnice ][mdnice]多平台发布

[alt]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/18/dcb007e6e27d48e9ae104ad6b0598bef.png
[alt 1]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/18/4d9da65a2df949b898a210e3d2948277.png
[alt 2]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/18/61897abcb37f467ab21664fb9863b222.png
[alt 3]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/18/dfa4e9487d9a4a639dd578885d43d436.png
[mdnice]: https://mdnice.com/?platform=4