Nginx服务器之负载均衡策略(6种)

雨点打透心脏的1/2处 2023-02-12 06:22 44阅读 0赞

# 一、关于Nginx的负载均衡 #

在服务器集群中，Nginx起到一个代理服务器的角色（即反向代理），为了避免单独一个服务器压力过大，将来自用户的请求转发给不同的服务器。详情请查看我的[另一篇博客][Link 1]。

# 二、Nginx负载均衡策略 #

负载均衡用于从“upstream”模块定义的后端服务器列表中选取一台服务器接受用户的请求。一个最基本的upstream模块是这样的，模块内的server是服务器列表：

![复制代码][aHR0cHM6Ly9jb21tb24uY25ibG9ncy5jb20vaW1hZ2VzL2NvcHljb2RlLmdpZg]

#动态服务器组
        upstream dynamic_zuoyu {
            server localhost:8080;  #tomcat 7.0
            server localhost:8081;  #tomcat 8.0
            server localhost:8082;  #tomcat 8.5
            server localhost:8083;  #tomcat 9.0
        }

![复制代码][aHR0cHM6Ly9jb21tb24uY25ibG9ncy5jb20vaW1hZ2VzL2NvcHljb2RlLmdpZg]

在upstream模块配置完成后，要让指定的访问反向代理到服务器列表：

![复制代码][aHR0cHM6Ly9jb21tb24uY25ibG9ncy5jb20vaW1hZ2VzL2NvcHljb2RlLmdpZg]

#其他页面反向代理到tomcat容器
            location ~ .*$ {
                index index.jsp index.html;
                proxy_pass http://dynamic_zuoyu;
            }

![复制代码][aHR0cHM6Ly9jb21tb24uY25ibG9ncy5jb20vaW1hZ2VzL2NvcHljb2RlLmdpZg]

这就是最基本的负载均衡实例，但这不足以满足实际需求；目前Nginx服务器的upstream模块支持6种方式的分配：

<table>  负载均衡策略  
 <tbody> 
  <tr> 
   <td>轮询</td> 
   <td>默认方式</td> 
  </tr> 
  <tr> 
   <td>weight</td> 
   <td>权重方式</td> 
  </tr> 
  <tr> 
   <td>ip_hash</td> 
   <td>依据ip分配方式</td> 
  </tr> 
  <tr> 
   <td>least_conn</td> 
   <td>最少连接方式</td> 
  </tr> 
  <tr> 
   <td>fair（第三方）</td> 
   <td>响应时间方式</td> 
  </tr> 
  <tr> 
   <td>url_hash（第三方）</td> 
   <td>依据URL分配方式</td> 
  </tr> 
 </tbody> 
</table>

在这里，只详细说明Nginx自带的负载均衡策略，第三方不多描述。

## 1、轮询 ##

最基本的配置方法，上面的例子就是轮询的方式，它是upstream模块默认的负载均衡默认策略。每个请求会按时间顺序逐一分配到不同的后端服务器。

有如下参数：

<table> 
 <tbody> 
  <tr> 
   <td>fail_timeout</td> 
   <td>与max_fails结合使用。</td> 
  </tr> 
  <tr> 
   <td>max_fails</td> 
   <td> <p>设置在fail_timeout参数设置的时间内最大失败次数，如果在这个时间内，所有针对该服务器的请求都失败了，那么认为该服务器会被认为是停机了，</p> </td> 
  </tr> 
  <tr> 
   <td>fail_time</td> 
   <td>服务器会被认为停机的时间长度,默认为10s。</td> 
  </tr> 
  <tr> 
   <td>backup</td> 
   <td>标记该服务器为备用服务器。当主服务器停止时，请求会被发送到它这里。</td> 
  </tr> 
  <tr> 
   <td>down</td> 
   <td>标记服务器永久停机了。</td> 
  </tr> 
 </tbody> 
</table>

注意：

*  在轮询中，如果服务器down掉了，会自动剔除该服务器。
 *  缺省配置就是轮询策略。
 *  此策略适合服务器配置相当，无状态且短平快的服务使用。

## 2、weight ##

权重方式，在轮询策略的基础上指定轮询的几率。例子如下：

![复制代码][aHR0cHM6Ly9jb21tb24uY25ibG9ncy5jb20vaW1hZ2VzL2NvcHljb2RlLmdpZg]

#动态服务器组
        upstream dynamic_zuoyu {
            server localhost:8080   weight=2;  #tomcat 7.0
            server localhost:8081;  #tomcat 8.0
            server localhost:8082   backup;  #tomcat 8.5
            server localhost:8083   max_fails=3 fail_timeout=20s;  #tomcat 9.0
        }

![复制代码][aHR0cHM6Ly9jb21tb24uY25ibG9ncy5jb20vaW1hZ2VzL2NvcHljb2RlLmdpZg]

在该例子中，weight参数用于指定轮询几率，weight的默认值为1,；weight的数值与访问比率成正比，比如Tomcat 7.0被访问的几率为其他服务器的两倍。

注意：

*  权重越高分配到需要处理的请求越多。
 *  此策略可以与least\_conn和ip\_hash结合使用。
 *  此策略比较适合服务器的硬件配置差别比较大的情况。

## 3、ip\_hash ##

指定负载均衡器按照基于客户端IP的分配方式，这个方法确保了相同的客户端的请求一直发送到相同的服务器，以保证session会话。这样每个访客都固定访问一个后端服务器，可以解决session不能跨服务器的问题。

![复制代码][aHR0cHM6Ly9jb21tb24uY25ibG9ncy5jb20vaW1hZ2VzL2NvcHljb2RlLmdpZg]

#动态服务器组
        upstream dynamic_zuoyu {
            ip_hash;    #保证每个访客固定访问一个后端服务器
            server localhost:8080   weight=2;  #tomcat 7.0
            server localhost:8081;  #tomcat 8.0
            server localhost:8082;  #tomcat 8.5
            server localhost:8083   max_fails=3 fail_timeout=20s;  #tomcat 9.0
        }

![复制代码][aHR0cHM6Ly9jb21tb24uY25ibG9ncy5jb20vaW1hZ2VzL2NvcHljb2RlLmdpZg]

注意：

*  在nginx版本1.3.1之前，不能在ip\_hash中使用权重（weight）。
 *  ip\_hash不能与backup同时使用。
 *  此策略适合有状态服务，比如session。
 *  当有服务器需要剔除，必须手动down掉。

## 4、least\_conn ##

把请求转发给连接数较少的后端服务器。轮询算法是把请求平均的转发给各个后端，使它们的负载大致相同；但是，有些请求占用的时间很长，会导致其所在的后端负载较高。这种情况下，least\_conn这种方式就可以达到更好的负载均衡效果。

![复制代码][aHR0cHM6Ly9jb21tb24uY25ibG9ncy5jb20vaW1hZ2VzL2NvcHljb2RlLmdpZg]

#动态服务器组
        upstream dynamic_zuoyu {
            least_conn;    #把请求转发给连接数较少的后端服务器
            server localhost:8080   weight=2;  #tomcat 7.0
            server localhost:8081;  #tomcat 8.0
            server localhost:8082 backup;  #tomcat 8.5
            server localhost:8083   max_fails=3 fail_timeout=20s;  #tomcat 9.0
        }

![复制代码][aHR0cHM6Ly9jb21tb24uY25ibG9ncy5jb20vaW1hZ2VzL2NvcHljb2RlLmdpZg]

注意：

*  此负载均衡策略适合请求处理时间长短不一造成服务器过载的情况。

## 5、第三方策略 ##

第三方的负载均衡策略的实现需要安装第三方插件。

### ①fair ###

按照服务器端的响应时间来分配请求，响应时间短的优先分配。

![复制代码][aHR0cHM6Ly9jb21tb24uY25ibG9ncy5jb20vaW1hZ2VzL2NvcHljb2RlLmdpZg]

### ②url\_hash ###

按访问url的hash结果来分配请求，使每个url定向到同一个后端服务器，要配合缓存命中来使用。同一个资源多次请求，可能会到达不同的服务器上，导致不必要的多次下载，缓存命中率不高，以及一些资源时间的浪费。而使用url\_hash，可以使得同一个url（也就是同一个资源请求）会到达同一台服务器，一旦缓存住了资源，再此收到请求，就可以从缓存中读取。

![复制代码][aHR0cHM6Ly9jb21tb24uY25ibG9ncy5jb20vaW1hZ2VzL2NvcHljb2RlLmdpZg]

#动态服务器组
        upstream dynamic_zuoyu {
            hash $request_uri;    #实现每个url定向到同一个后端服务器
            server localhost:8080;  #tomcat 7.0
            server localhost:8081;  #tomcat 8.0
            server localhost:8082;  #tomcat 8.5
            server localhost:8083;  #tomcat 9.0
        }

![复制代码][aHR0cHM6Ly9jb21tb24uY25ibG9ncy5jb20vaW1hZ2VzL2NvcHljb2RlLmdpZg]

# 三、总结 #

以上便是6种负载均衡策略的实现方式，其中除了轮询和轮询权重外，都是Nginx根据不同的算法实现的。在实际运用中，需要根据不同的场景选择性运用，大都是多种策略结合使用以达到实际需求。

[Link 1]: https://www.cnblogs.com/1214804270hacker/p/9277895.html
[aHR0cHM6Ly9jb21tb24uY25ibG9ncy5jb20vaW1hZ2VzL2NvcHljb2RlLmdpZg]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9jb21tb24uY25ibG9ncy5jb20vaW1hZ2VzL2NvcHljb2RlLmdpZg