接口请求合并的3种技巧，性能直接爆表

水深无声 2024-05-23 22:03 51阅读 0赞

将相似或重复请求在上游系统中合并后发往下游系统，可以大大降低下游系统的负载，提升系统整体吞吐率。文章介绍了 `hystrix collapser`、`ConcurrentHashMultiset`、自实现`BatchCollapser` 三种请求合并技术，并通过其具体实现对比各自适用的场景。

### 前言 ###

工作中，我们常见的请求模型都是”请求-应答”式，即一次请求中，服务给请求分配一个独立的线程，一块独立的内存空间，所有的操作都是独立的，包括资源和系统运算。我们也知道，在请求中处理一次系统 I/O 的消耗是非常大的，如果有非常多的请求都进行同一类 I/O 操作，那么是否可以将这些 I/O 操作都合并到一起，进行一次 I/O 操作，是否可以大大降低下游资源服务器的负担呢？

最近我工作之余的大部分时间都花在这个问题的探究上了，对比了几个现有类库，为了解决一个小问题把 `hystrix javanica` 的代码翻了一遍，也根据自己工作中遇到的业务需求实现了一个简单的合并类，收获还是挺大的。可能这个需求有点”偏门”，在网上搜索结果并不多，也没有综合一点的资料，索性自己总结分享一下，希望能帮到后来遇到这种问题的小伙伴。

### Hystrix Collapser ###

#### hystrix ####

开源的请求合并类库（知名的）好像也只有 Netflix 公司开源的 `Hystrix` 了， `hystrix` 专注于保持 WEB 服务器在高并发环境下的系统稳定，我们常用它的熔断器(`Circuit Breaker`) 来实现服务的服务隔离和灾时降级，有了它，可以使整个系统不至于被某一个接口的高并发洪流冲塌，即使接口挂了也可以将服务降级，返回一个人性化的响应。请求合并作为一个保障下游服务稳定的利器，在 `hystrix` 内实现也并不意外。

我们在使用 `hystrix` 时，常用它的 `javanica` 模块，以注解的方式编写 hystrix 代码，使代码更简洁而且对业务代码侵入更低。所以在项目中我们一般至少需要引用 `hystrix-core` 和 `hystrix-javanica` 两个包。

另外，`hystrix` 的实现都是通过 AOP，我们要还要在项目 xml 里显式配置 `HystrixAspect` 的 bean 来启用它。

<aop:aspectj-autoproxy/>  
    <bean id="hystrixAspect" class="com.netflix.hystrix.contrib.javanica.aop.aspectj.HystrixCommandAspect" />

#### collapser ####

hystrix collapser 是 hystrix 内的请求合并器，它有自定义 BatchMethod 和 注解两种实现方式，自定义 BatchMethod 网上有各种教程，实现起来很复杂，需要手写大量代码，而注解方式只需要添加两行注解即可，但配置方式我在官方文档上也没找见，中文方面本文应该是独一份儿了。

其实现需要注意的是：

*  我们在需要合并的方法上添加 `@HystrixCollapser` 注解，在定义好的合并方法上添加 `@HystrixCommand` 注解；
 *  single 方法只能传入一个参数，多参数情况下需要自己包装一个参数类，而 batch 方法需要 `java.util.List<SingleParam>`；
 *  single 方法返回 `java.util.concurrent.Future<SingleReturn>`，