高并发环境下线程池怎样选择线程数量

￡神魔★判官ぃ 2021-11-05 15:40 273阅读 0赞

在高并发的情况下采用线程池，有效的降低了线程创建释放的时间花销及资源开销，如不使用线程池，有可能造成系统创建大量线程而导致消耗完系统内存以及”过度切换”。（在JVM中采用的处理机制为时间片轮转，减少了线程间的相互切换）

那么在高并发的情况下，我们怎么选择最优的线程数量呢？选择原则又是什么呢？。

第一种：任务一般可分为：CPU密集型、IO密集型、混合型，对于不同类型的任务需要分配不同大小的线程池。CPU密集型任务 尽量使用较小的线程池，一般为CPU核心数+1。 因为CPU密集型任务使得CPU使用率很高，若开过多的线程数，只能增加上下文切换的次数，因此会带来额外的开销。IO密集型任务 可以使用稍大的线程池，一般为2\*CPU核心数+1。 IO密集型任务CPU使用率并不高，因此可以让CPU在等待IO的时候去处理别的任务，充分利用CPU时间。混合型任务 可以将任务分成IO密集型和CPU密集型任务，然后分别用不同的线程池去处理。 只要分完之后两个任务的执行时间相差不大，那么就会比串行执行来的高效。 因为如果划分之后两个任务执行时间相差甚远，那么先执行完的任务就要等后执行完的任务，最终的时间仍然取决于后执行完的任务，而且还要加上任务拆分与合并的开销，得不偿失。

第二种呢，在IO优化文档中，有这样地公式：   
最佳线程数目 = （（线程等待时间+线程CPU时间）/线程CPU时间 ）\* CPU数目   
即线程等待时间所占比例越高，需要越多线程。线程CPU时间所占比例越高，需要越少线程。

#### 优化线程池线程数量 ####

有经验公式

Nthread=Ncpu*Ucpu*（1+W/C）

*  W/C:等待时间与计算时间的比值
 *  Ncpu:CPU数量
 *  Ucpu：目标cpu的使用率

Java中下面方法获取CPU数目

int Ncpus=Runtime.getRuntime().availableProcessors();
    		System.out.println(Ncpus);

并发编程网上的一个问题 高并发、任务执行时间短的业务怎样使用线程池？并发不高、任务执行时间长的业务怎样使用线程池？并发高、业务执行时间长的业务怎样使用线程池？  
（1）高并发、任务执行时间短的业务，线程池线程数可以设置为CPU核数+1，减少线程上下文的切换  
（2）并发不高、任务执行时间长的业务要区分开看： 　　  
a）假如是业务时间长集中在IO操作上，也就是IO密集型的任务，因为IO操作并不占用CPU，所以不要让所有的CPU闲下来，可以适当加大线程池中的线程数目，让CPU处理更多的业务 　　  
b）假如是业务时间长集中在计算操作上，也就是计算密集型任务，这个就没办法了，和（1）一样吧，线程池中的线程数设置得少一些，减少线程上下文的切换  
（3）并发高、业务执行时间长，解决这种类型任务的关键不在于线程池而在于整体架构的设计，看看这些业务里面某些数据是否能做缓存是第一步，增加服务器是第二步，至于线程池的设置，设置参考（2）。最后，业务执行时间长的问题，也可能需要分析一下，看看能不能使用中间件对任务进行拆分和解耦。