并发用户数、QPS等概念

以你之姓@ 2022-12-15 03:25 244阅读 0赞

### 并发用户数和QPS ###

参考：[https://blog.csdn.net/wisters/article/details/7222476][https_blog.csdn.net_wisters_article_details_7222476]

关于并发用户数和QPS，自己一直被这两个概念纠结，阅读了一下相关资料，总结如下：并发 用户数和QPS两个概念没有直接关系，但是如果要说QPS时，一定需要指明是多少并发用户数下的QPS，否则豪无意义，因为单用户数的40QPS和20并 发用户数下的40QPS是两个不同的概念。前者说明该应用可以在一秒内串行执行40个请求，而后者说明在并发20个请求的情况下，一秒内该应用能处理40 个请求，当QPS相同时，越大的并发用户数，代表了网站并发处理能力越好。对于当前的 **web** 服务器，其处理单个用户的请求肯定戳戳有余，这个时候会存在资源浪费的情况（一方面该服务器可能有多个cpu，但是只处理单个进程，另一方面，在处理一个进程中，有些阶段可能是IO阶段，这个时候会造成CPU等待，但是有没有 **其他** 请 求进程可以被处理）。而当并发数设置的过大时，每秒钟都会有很多请求需要处理，会造成进程（线程）频繁切换，反正真正用于处理请求的时间变少，每秒能够处 理的请求数反而变少，同时用户的请求等待时间也会变大，甚至超过用户的心理底线。所以在最小并发数和最大并发数之间，一定有一个最合适的并发数值，在并发 数下，QPS能够达到最大。但是，这个并发并非是一个最佳的并发，因为当QPS到达最大时的并发，可能已经造成用户的等待时间变得超过了其最优值，所以对 于一个系统，其最佳的并发数，一定需要结合QPS，用户的等待时间来综合确定。

### 并发数、QPS、平均响应时间三者之间关系 ###

![84dc05859dcf017f313b446d68b6c335.png][]

上图横坐标是并发用户数。绿线是CPU使用率；紫线是吞吐量，即QPS；蓝线是时延。  
    开始，系统只有一个用户，CPU工作肯定是不饱合的。一方面该服务器可能有多个cpu，但是只处理单个进程，另一方面，在处理一个进程中，有些阶段可能是IO阶段，这个时候会造成CPU等待，但是有没有其他请 求进程可以被处理）。随着并发用户数的增加，CPU利用率上升，QPS相应也增加（公式为QPS=并发用户数/平均响应时间。）随着并发用户数的增加，平均响应时间也在增加，而且平均响应时间的增加是一个指数增加曲线。而当并发数增加到很大时，每秒钟都会有很多请求需要处理，会造成进程（线程）频繁切换，反正真正用于处理请求的时间变少，每秒能够处 理的请求数反而变少，同时用户的请求等待时间也会变大，甚至超过用户的心理底线。

[https_blog.csdn.net_wisters_article_details_7222476]: https://blog.csdn.net/wisters/article/details/7222476
[84dc05859dcf017f313b446d68b6c335.png]: /images/20221123/c7e9cfc878544397a7de2ba77ed7edff.png