基于线程池、消息队列和epoll模型实现并发服务器架构

客官°小女子只卖身不卖艺 2021-11-04 15:48 257阅读 0赞

[基于线程池、消息队列和epoll模型实现并发服务器架构][epoll]

## 引言 ##

并发是什么？企业在进行产品开发过程中为什么需要考虑这个问题？想象一下天猫的双11和京东的618活动，一秒的点击量就有几十万甚至上百万，这么多请求一下子涌入到服务器，服务器需要对这么多的请求逐个进行消化掉，假如服务器一秒的处理能力就几万，那么剩下的不能及时得到处理的这些请求作何处理？总不能让用户界面一直等着，因此消息队列应运而生，所有的请求都统一放入消息队列，工作线程从消息队列不断的消费，消息队列相当于一个缓冲区，可达到解藕、异步和削峰的目的。

Kafka、ActiveMQ、RabbitMQ和RockerMQ都是消息队列的典型，每一种都有其自身的优势和劣势。本文我用自己编写的Buffer类模拟消息队列，如果是企业级需要上线的应用，一般都是基于业界已有的MQ框架上开发。

## 需求原型 ##

1.  N个Client从标准输入接收数据，然后连续不断的发送到Server端；
2.  Server端接收来自每个Client的数据，将数据中的小写字母全部转换成大写字母，其他字符保持不变，最后把转换结果发送给对应的Client。

## 需求分解 ##

1.  拿到需求，第一步要做的就是分析需求并选择合适的设计架构，考虑到Server需要和Client进行通信，Client来自四面八方，端对端通信自然选择TCP，因此Server端需要能够监听新的连接请求和已有连接的业务请求；
2.  又由于Server需要响应多个Client的业务请求，我们希望把业务处理交给Server端的工作线程（消费者）来做；
3.  同时还需要一个IO线程负责监听Socket描述符，当IO线程监听到已有连接的业务请求时，立即把请求内容封装成一个任务推入消息队列尾；
4.  IO线程与工作线程互斥访问消息队列，当然工作线程消费一个任务或者IO线程添加一个任务都需要通知对方，也就是同步；
5.  工作线程处理完毕后，把处理结果交给IO线程，由IO线程负责把结果发送给对应的Client，也就是IO线程与工作线程的分离，这里工作线程通知IO线程的方式我用eventfd来实现；
6.  我们希望引入Log4cpp记录服务端的日志，并能够保存到文件中；
7.  分析完这些，一个整体架构和大体的样子在脑海中就已经形成了，接着就需要编写设计文档和画流程图、类图和时序图了。

## 详细设计文档 ##

1.UML静态类图：

![1670527-20190607224410005-1186430730.png][]

2.UML动态时序图：

![1670527-20190607231826099-78780666.png][]

## 效果 ##

1.如图，开了三个Client，运行结果正确：

![1670527-20190607224441933-1705645374.png][]

2.Server端通过Log4cpp把日志写到文件中：

![1670527-20190607224454491-1081900959.png][]

## 源码获取 ##

[https://github.com/icoty/cs\_threadpool\_epoll\_mq][https_github.com_icoty_cs_threadpool_epoll_mq]

## 目录结构 ##

.
    ├── client                   // 客户端Demo
    │   ├── Client.cc
    │   ├── Client.exe
    │   ├── client.sh    // 进入该目录下启动Client Demo: sh client.sh
    │   ├── Log4func.cc // 引入日志模块重新疯转
    │   ├── Log4func.h
    │   └── Makefile     // 编译方式：make
    ├── conf
    │   └── my.conf // IP,Port配置文件, 从这里进行修改
    ├── include // 头文件
    │   ├── Configuration.hpp // 配置文件,单例类,my.conf的内存化
    │   ├── FileName.hpp // 全局定义,Configuration会用到
    │   ├── log // 日志模块头文件
    │   │   └── Log4func.hpp
    │   ├── net // 网络框架模块头文件
    │   │   ├── EpollPoller.hpp
    │   │   ├── InetAddress.hpp
    │   │   ├── Socket.hpp
    │   │   ├── SockIO.hpp
    │   │   ├── TcpConnection.hpp
    │   │   └── TcpServer.hpp
    │   ├── String2Upper.hpp // 工作线程转换成大写实际走的这里面的接口
    │   ├── String2UpperServer.hpp // Server端的整个工厂
    │   └── threadpool // 线程池、锁、条件变量和消息队列的封装
    │       ├── Buffer.hpp
    │       ├── Condition.hpp
    │       ├── MutexLock.hpp
    │       ├── Noncopyable.hpp
    │       ├── Pthread.hpp
    │       ├── Task.hpp
    │       └── Threadpool.hpp
    ├── log // Server端的日志通过Log4cpp记录到这个文件中
    │   └── log4test.log
    ├── Makefile // 编译方式：make
    ├── README.md 
    ├── server // server端Demo
    │   ├── server.exe
    │   └── server.sh // 进入该目录下启动Server Demo：sh server.sh
    └── src // 源文件
        ├── Configuration.cpp
        ├── log
        │   └── Log4func.cpp
        ├── main.cpp
        ├── net
        │   ├── EpollPoller.cpp
        │   ├── InetAddress.cpp
        │   ├── Socket.cpp
        │   ├── SockIO.cpp
        │   ├── TcpConnection.cpp
        │   └── TcpServer.cpp
        ├── String2Upper.cpp
        ├── String2UpperServer.cpp
        └── threadpool
        ├── Buffer.cpp
        ├── Condition.cpp
        ├── MutexLock.cpp // MutexLockGuard封装
        ├── Pthread.cpp
        └── Threadpool.cpp

## 参考文献 ##

\[1\] UNIX环境高级编程第3版  
\[2\] [cpp reference][]  
\[3\] [UML时序图][UML]  
\[4\] [Log4cpp官网下载][Log4cpp]  
\[5\] [Log4cpp安装][Log4cpp 1]

posted on 2019-06-07 22:45 [荒野之萍][Link 1] 阅读( ...) 评论( ...) [编辑][Link 2] 收藏

转载于:https://www.cnblogs.com/icoty23/p/10989445.html

[epoll]: https://www.cnblogs.com/icoty23/p/10989445.html
[1670527-20190607224410005-1186430730.png]: /images/20211104/5bce68b5ae6942079ec0b62aec5addb7.png
[1670527-20190607231826099-78780666.png]: /images/20211104/6baab3f378d04063b7ae134852c8aca3.png
[1670527-20190607224441933-1705645374.png]: /images/20211104/d872a8ed089d4e4696861191834d7bc4.png
[1670527-20190607224454491-1081900959.png]: /images/20211104/4bd6dbd7b6bd47aeba02127417320f19.png
[https_github.com_icoty_cs_threadpool_epoll_mq]: https://github.com/icoty/cs_threadpool_epoll_mq
[cpp reference]: https://en.cppreference.com/w/
[UML]: https://www.cnblogs.com/downey/p/4890830.html
[Log4cpp]: https://sourceforge.net/projects/log4cpp/
[Log4cpp 1]: https://blog.csdn.net/sinat_26003209/article/details/46522953
[Link 1]: https://www.cnblogs.com/icoty23/
[Link 2]: https://i.cnblogs.com/EditPosts.aspx?postid=10989445