Mysql Nested-Loop Join算法和MRR

旧城等待， 2024-03-26 16:58 48阅读 0赞

MySQL8之前仅支持一种join 算法—— nested loop，在 MySQL8 中推出了一种新的算法 hash join，比 nested loop 更加高效。（后面有时间介绍这种join算法）

### 1、mysql驱动表与被驱动表及join优化 ###

先了解在join连接时哪个表是驱动表（也叫外表），哪个表是被驱动表（也叫内内表）：

1.  当使用left join时，左表是驱动表，右表是被驱动表
2.  当使用right join时，右表时驱动表，左表是驱动表
3.  当使用join时，mysql优化器会选择数据量比较小的表作为驱动表，大表作为被驱动表

#### 1.1）join查询如何选择驱动表与被驱动表 ####

在sql优化中，永远是以小表驱动大表。例如: A是小表，B是大表，使用left join 时，则应该这样写：

select * from A a left join B b on a.code=b.code

这样A表时驱动表，B表是被驱动表。

**1）驱动表的含义：**

在嵌套循环连接和哈希连接中，用来最先获得数据，并以此表的数据为依据，逐步获得其他表的数据，直至最终查询到所有满足条件的数据的第一个表，叫做驱动表。

驱动表不一定是表，有可能是数据集，即由某个表中满足条件的数据行，组成子集合后，再以此子集合作为连接其他表的数据来源。这个子集合，才是真正的驱动表，有时候为了简洁，直接将最先按照条件或得子集合的那张表叫做驱动表。

如果有三个及以上的表，则会先使用join算法得到一、二个表的结果集，并将该结果集作为外层数据，遍历结果集到后第三个表中查询数据。

**2）小表作为驱动表：**

我们常说，驱动表一定是小表，指的是根据条件获得的子集合一定要小，而不是说实体表本身一定要小，大表如果获得的子集合小，一样可以简称这个大表为驱动表。因为：

小表驱动大表：需要通过140多次的扫描
    for(140条){
      for(20万条){
    
      }
    }
    大表驱动小表：要通过20万次的扫描
    for(20万条){
      for(140条){
    
      }
    }

所以也可以得出结论：如果A表，B表数据量差不多大的时候，那么选择谁作为驱动表也是无所谓了。

看一个例子：A表140多条数据，B表20万左右的数据量

select * from A a left join B b on a.code=b.code
    执行时间：7.5s
    
    select * from B b left join A a on a.code=b.code
    执行时间：19s

**3）通过explain查看谁是驱动表：**

可以通过EXPLAIN分析来判断在sql中谁是驱动表，EXPLAIN语句分析出来的第一行的表即是驱动表。

#### 1.2）驱动表和被驱动表索引是用情况： ####

join查询在有索引条件下：

*  驱动表有索引不会使用到索引
 *  被驱动表建立索引会使用到索引

在以小表驱动大表的情况下，再给大表建立索引会大大提高执行速度。

测试1：给A表，B表建立索引

分析：EXPLAIN select \* from A a left join B b on a.code=b.code

只有B表code使用到索引

测试2：如果只给A表的code建立索引会是什么情况？

在这种情况下，A表索引失效。

**结论：**

*  以小表驱动大表
 *  给被驱动表建立索引

### 2、Nested-Loop Join ###

MySQL8.0之前只支持一种JOIN算法Nested-Loop Join（嵌套循环链接），Nested-Loop Join是有很多变种，能够帮助MySQL更高效的执行JOIN操作。

#### 2.1）Simple Nested-Loop Join（简单的嵌套循环连接） ####

简单来说嵌套循环连接算法就是一个双层for 循环 ，通过循环外层表的行数据，逐个与内层表的所有行数据进行比较来获取结果，伪代码如下：

select * from user tb1 left join level tb2 on tb1.id=tb2.user_id
    
    for (user_table_row ur : user_table) {
        for (level_table_row lr : level_table) {
            if (ur.id == lr.user_id)) {
                //返回匹配成功的数据
            }
        }
    }

**特点：**

Nested-Loop Join 简单粗暴容易理解，就是通过双层循环比较数据来获得结果，但是这种算法显然太过于粗鲁，如果每个表有1万条数据，那么对数据比较的次数=1万 \* 1万 =1亿次，很显然这种查询效率会非常慢。

当然mysql 肯定不会这么粗暴的去进行表的连接，所以就出现了后面的两种对Nested-Loop Join 优化算法，在执行join 查询时mysql 会根据情况选择 后面的两种优join优化算法的一种进行join查询。

#### 2.2）Index Nested-Loop Join（索引嵌套循环连接） ####

Index Nested-Loop Join其优化的思路 主要是为了减少内层表数据的匹配次数， 简单来说Index Nested-Loop Join 就是通过外层表匹配条件 直接与内层表索引进行匹配，避免和内层表的每条记录去进行比较， 这样极大的减少了对内层表的匹配次数，从原来的匹配次数=外层表行数 \* 内层表行数，变成了 外层表的行数 \* 内层表索引的高度，极大的提升了 join的性能。

select * from user tb1 left join level tb2 on tb1.id=tb2.user_id
    # 伪代码
    for (user_table_row ur : user_table) {
        lookup level_user_id_index {
            if (ur.id == lr.user_id)) {
                //返回匹配成功的数据
            }
        }
    }

注意：使用Index Nested-Loop Join 算法的前提是匹配的字段，在被驱动表（内表）上必须建立了索引。

#### 2.3）Batched Key Access join（简称BKA） ####

在上面描述的INLJ算法中有一个问题，如果和被驱动表关联的索引是辅助索引，并且查询字段无法做到索引覆盖，那么在组装数据的时候就需要回表操作。而如果匹配每条记录都去回表，效率肯定不高，虽然回表能够使用到主键索引，但是因为这里id不一定有序，所以也属于随机分散读取。对于这种情况，MySQL提供了一种优化措施，提供了一种叫做Batched Key Access join的算法，即批量主键访问连接算法。

**1）BKA算法：**

BKA算法的原理是，先在驱动表中根据条件查询出符合条件的记录存入join buffer中，然后根据索引获取被驱动表的索引记录，将其存入read\_rnd\_buffer中。如果join buffer或read\_rnd\_buffer有一个满了，那么就先处理buffer中的数据：将read\_rnd\_buffer中的被驱动表索引记录按照主键进行升序排序，然后依赖这个有序的记录去回表查询，由于主键索引中的记录是按照主键升序排序的，这样能提高回表效率。要启用BKA算法，需要开启batched\_key\_access。

说明：可以先了解MRR后再看BKA就会很清晰（下面）。默认BKA是关闭的，若要开启需要执行。

mysql> SET optimizer_switch='mrr=on,mrr_cost_based=on,batched_key_access=on';

这里测试一下：

set optimizer_switch='batched_key_access=off';
    explain select a.*,b.* from b join a on b.key = a.key

![96473ad3993e4728bac9bfbcc4e75c45.png][]

这里没有开启batched\_key\_access，可以看到，a是驱动表，b.key字段上有索引，查询字段使用的是a.\*,b.\*，所需数据需要回表，但是还是使用的是INLJ算法，现在开启batched\_key\_access试试：

set optimizer_switch='batched_key_access=on';
    explain select a.*,b.* from b join a on b.key = a.key

![441e913d668d4b4abe41127023c372c6.png][] 可以看到这次使用了BKA算法，使用到了join buffer，那么如果我们查询字段不选择b.\*，只返回b.id字段，这样能用到覆盖索引：

set optimizer_switch='batched_key_access=on';
    explain select a.*,b.id from b join a on b.key = a.key

![0da14d86f83845a5b7dd755ae4f1c64e.png][] 发现没有再使用BKA算法了。

#### 2.4）Block Nested-Loop Join（缓存块嵌套循环连接，简称BNL） ####

如果被驱动表关联字段没有可用的索引，那么就要使用BNL算法了，这个算法和BKA算法一样需要用到join buffer，但是没有使用read\_rnd\_buffer。到底选择BNL还是BKA，关键点在于被驱动表是否有可用的索引，如果没有则直接使用BNL，如果有索引，但是需要回表则使用BKA。

**1）BNL 算法：**

先根据条件查出驱动表中符合条件的记录，存入join buffer中，如果join buffer只能存100条数据，但是驱动表符合条件的就结果集超过100条，那么也只能取到100条，称为一个批次(batch)，然后全表扫描被驱动表，将被驱动表的每行记录都和join buffer中的记录进行匹配，将匹配到的记录放到最终结果集中。被驱动表扫描完之后，清空join buffer，再次重复从驱动表中获取剩余记录存入join buffer，然后全表扫描被驱动表，到join buffer中进行匹配，依次循环直到数据匹配完毕。

说明：在 MySQL 8.0.18之前，当join时无法使用被驱动表的索引时，就会是用BNL进行join。在MySQL 8.0.18 及更高版本中，在这种情况下采用了 Hash 连接优化算法。从 MySQL 8.0.20 开始，MySQL 不再使用 BNL 算法，并且在以前使用过 BNL 的所有情况下都使用 Hash Join 算法。

# SQL
    select * from R join S on R.r=S.s
    # 伪代码
    for each tuple r in R do                             # 扫描外表R
        store used columns as p from R in join buffer    # 将部分或者全部R记录保存到join buffer中，记为p
        for each tuple s in S do                         # 扫描内表S
            if p and s satisfy the join buffer           # p与s满足join条件
               then output the tuple <p,s>               # 返回结果集

处理流程：

1.  遍历满足过滤条件的驱动表中所有的记录（SQL 查询的所有字段），并放入至 join buffer
2.  若所有驱动表满足条件记录放入 join buffer，遍历被驱动表所有记录，获取满足join 条件的记录结果集
3.  若join buffer 无法一次性存储全部驱动表记录，可分批读取记录至join buffer， 重复第二步骤

注意：5.6版本及以后，优化器管理参数optimizer\_switch中中的block\_nested\_loop参数控制着BNL是否被用于优化器。默认条件下是开启，若果设置为off，优化器在选择 join方式的时候会选择NLJ算法。

mysql> show variables like 'optimizer_switch'\G;
    block_nested_loop=on # BNL优化，默认打开
    
    mysql> set optimizer_switch='block_nested_loop=on'; # 开启BNL

**2）BNL介绍：**

BNL 主要针对被驱动表关联字段无索引时的优化，（当被驱动表没有索引或索引失效时，无法是用INLJ，mysql就会通过BNL进行优化）如果在EXPLAIN输出中，当Extra值包含Using join buffer（Block Nested Loop）且type值为ALL，index或range时，表示使用BNL；也说明被驱动表的表关联字段缺少索引或索引失效无法有效利用索引。![274e04da06d94c91817833e7971912cd.png][]

BNL 算法是对 SNLJ 算法的优化，并且可将该算法 BNL 提升至 INLJ 进行优化。 对 SQL 的扫描数据来讲，驱动表扫描次数为1 ，被驱动表扫描次数为 驱动表记录大小/ join\_buffer\_size ; 对于 SQL 的扫描记录来讲， SQL 执行扫描行数 = 驱动表记录数 + （驱动表记录 / join\_buffer\_size） \* 被驱动表记录数。

在一定程度上，提高 join\_buffer\_size 的大小是可以提高使用 BNL 算法 SQL的执行效率：

# 手动调整 join_buffer_size 的大小
    mysql> show variables like '%join_buffer_size%';
    +------------------+--------+
    | Variable_name    | Value  |
    +------------------+--------+
    | join_buffer_size | 262144 |
    +------------------+--------+
    1 row in set (0.04 sec)
    
    mysql> set join_buffer_size=1024;
    Query OK, 0 rows affected (0.04 sec)
    
    mysql> show variables like '%join_buffer_size%';
    +------------------+-------+
    | Variable_name    | Value |
    +------------------+-------+
    | join_buffer_size | 1024  |
    +------------------+-------+
    1 row in set (0.03 sec)

**3）BNL特点：**

1.  join\_buffer\_size变量决定buffer大小。
2.  只有在join类型为all, index, range的时候才可以使用join buffer。
3.  能够被buffer的每一个join都会分配一个buffer, 也就是说一个query最终可能会使用多个join buffer。
4.  第一个nonconst table不会分配join buffer, 即便其扫描类型是all或者index。
5.  在join之前就会分配join buffer, 在query执行完毕即释放。
6.  join buffer中只会保存参与join的列, 并非整个数据行。

### 3、MRR ###

MRR，全称「Multi-Range Read Optimization」，是MySQL 5.6的新特性，简单说：MRR 通过把「随机磁盘读」，转化为「顺序磁盘读」，从而提高了索引查询的性能。

#### 3.1）mysql是如何从磁盘上读取数据的？ ####

执行一个范围查询：

mysql > explain select * from stu where age between 10 and 20;
    +----+-------------+-------+-------+------+---------+------+------+-----------------------+
    | id | select_type | table | type  | key  | key_len | ref  | rows | Extra                 |
    +----+-------------+-------+-------+----------------+------+------+-----------------------+
    |  1 | SIMPLE      |  stu  | range | age  | 5       | NULL |  960 | Using index condition |
    +----+-------------+-------+-------+----------------+------+------+-----------------------+

当这个 sql 被执行时，MySQL 会按照下图的方式，去磁盘读取数据（假设数据不在数据缓冲池里）：

![55b88a3a3d0f47b299476b206cabde17.png][]

图中红色线就是整个的查询过程，蓝色线则是磁盘的运动路线。

这张图是按照 Myisam 的索引结构画的，不过对于 Innodb 也同样适用。对于 Myisam，左边就是字段 age 的二级索引，右边是存储完整行数据的地方。对于 Innodb也是一样的，Innodb 是聚簇索引（cluster index），所以只需要把右边也换成一颗叶子节点带有完整数据的 B+ tree 就可以了。

下面一Myisam引擎分析：

1.  先到左边的二级索引找，找到第一条符合条件的记录（实际上每个节点是一个页，一个页可以有很多条记录，这里我们假设每个页只有一条），接着到右边去读取这条数据的完整记录。
2.  读取完后，回到左边，继续找下一条符合条件的记录，找到后，再到右边读取，这时发现这条数据跟上一条数据，在物理存储位置上，离的贼远！
3.  咋办，没办法，只能让磁盘和磁头一起做机械运动，去给你读取这条数据。第三条、第四条，都是一样，每次读取数据，磁盘和磁头都得跑好远一段路。

说明：MySQL 其实是以「页」为单位读取数据的，这里咱们假设这几条数据都恰好位于不同的页上。另外「页」的思想其实是来源于操作系统的非连续内存管理机制，类似的还有「段」。

注意：10,000 RPM（Revolutions Per Minute，即转每分） 的机械硬盘，每秒大概可以执行 167 次磁盘读取，所以在极端情况下，MySQL 每秒只能给你返回 167 条数据，这还不算上 CPU 排队时间。

#### 3.2）顺序读 ####

到这里你知道了磁盘随机访问是多么奢侈的事了，所以，很明显，要把随机访问转化成顺序访问：

mysql > set optimizer_switch='mrr=on';
    Query OK, 0 rows affected (0.06 sec)
    
    mysql > explain select * from stu where age between 10 and 20;
    +----+-------------+-------+-------+------+---------+------+------+----------------+
    | id | select_type | table | type  | key  | key_len | ref  | rows | Extra          |
    +----+-------------+-------+-------+------+---------+------+------+----------------+
    |  1 | SIMPLE      | tbl   | range | age  |    5    | NULL |  960 | ...; Using MRR |
    +----+-------------+-------+-------+------+---------+------+------+----------------+

我们开启了 MRR，重新执行 sql 语句，发现 Extra 里多了一个「Using MRR」。

这下 MySQL 的查询过程会变成这样：

*  对于 Myisam，在去磁盘获取完整数据之前，会先按照 rowid 排好序，再去顺序的读取磁盘。
 *  对于 Innodb，则会按照聚簇索引键值排好序，再顺序的读取聚簇索引。

顺序读带来了几个好处：

1.  磁盘和磁头不再需要来回做机械运动；
2.  可以充分利用磁盘预读：比如在客户端请求一页的数据时，可以把后面几页的数据也一起返回，放到数据缓冲池中，这样如果下次刚好需要下一页的数据，就不再需要到磁盘读取。这样做的理论依据是计算机科学中著名的局部性原理：当一个数据被用到时，其附近的数据也通常会马上被使用。
3.  在一次查询中，每一页的数据只会从磁盘读取一次：MySQL 从磁盘读取页的数据后，会把数据放到数据缓冲池，下次如果还用到这个页，就不需要去磁盘读取，直接从内存读。但是如果不排序，可能你在读取了第 1 页的数据后，会去读取第2、3、4页数据，接着你又要去读取第 1 页的数据，这时你发现第 1 页的数据，已经从缓存中被剔除了，于是又得再去磁盘读取第 1 页的数据。而转化为顺序读后，你会连续的使用第 1 页的数据，这时候按照 MySQL 的缓存剔除机制，这一页的缓存是不会失效的，直到你利用完这一页的数据，由于是顺序读，在这次查询的余下过程中，你确信不会再用到这一页的数据，可以和这一页数据说告辞了。

顺序读就是通过这三个方面，最大的优化了索引的读取。别忘了，索引本身就是为了减少磁盘 IO，加快查询，而 MRR，则是把索引减少磁盘 IO 的作用，进一步放大。

#### 3.3）关于MRR的配置 ####

[和 MRR 相关的配置][MRR]有两个：

*  mrr: on/off
 *  mrr\_cost\_based: on/off

**1）mrr=on/off**

用来打开 MRR 的开关，如果你不打开，是一定不会用到 MRR 的。

mysql > set optimizer\_switch='mrr=on';

**2）mrr\_cost\_based=on/off**

用来告诉优化器，要不要基于使用 MRR 的成本，考虑使用 MRR 是否值得（cost-based choice），来决定具体的 sql 语句里要不要使用 MRR。很明显，对于只返回一行数据的查询，是没有必要 MRR 的，而如果你把 mrr\_cost\_based 设为 off，那优化器就会通通使用 MRR，这在有些情况下是很 stupid 的，所以建议这个配置还是设为 on，毕竟优化器在绝大多数情况下都是正确的。

**3）read\_rnd\_buffer\_size**

另外还有一个配置 [read\_rnd\_buffer\_size][read_rnd_buffer_size] ，是用来设置用于给 rowid 排序的内存的大小。显然，MRR 在本质上是一种用空间换时间的算法。MySQL 不可能给你无限的内存来进行排序，如果 read\_rnd\_buffer 满了，就会先把满了的 rowid 排好序去磁盘读取，接着清空，然后再往里面继续放 rowid，直到 read\_rnd\_buffer 又达到 read\_rnd\_buffe 配置的上限，如此循环。

另外 MySQL 的其中一个分支 Mariadb 对 MySQL 的 MRR 做了很多优化，有兴趣的同学可以看下文末的推荐阅读。

#### 3.4）尾声 ####

你也看出来了，MRR 跟索引有很大的关系。

索引是 MySQL 对查询做的一个优化，把原本杂乱无章的数据，用有序的结构组织起来，让全表扫描变成有章可循的查询。而我们讲的 MRR，则是 MySQL 对基于索引的查询做的一个的优化，可以说是对优化的优化了。

要优化 MySQL 的查询，就得先知道 MySQL 的查询过程；而要优化索引的查询，则要知道 MySQL 索引的原理。就像之前在「[如何学习 MySQL][MySQL]」里说的，要优化一项技术、学会调优，首先得先弄懂它的原理，这两者是不同的 Level。