MyIsam和InnoDb索引

小鱼儿 2021-10-15 01:17 397阅读 0赞

#### Mysql优化主要是索引的优化 ####

### 1. 平衡多路搜索树B树（B-tree） ###

上面讲到了二叉树，它的搜索时间复杂度为`O(log2N)`，所以它的搜索效率和树的深度有关，如果要提高查询速度，那么就要降低树的深度。要降低树的深度，很自然的方法就是采用多叉树，再结合平衡二叉树的思想，我们可以构建一个平衡多叉树结构，然后就可以在上面构建平衡多路查找算法，提高大数据量下的搜索效率。

#### 1.1 B Tree ####

B树（Balance Tree）又叫做B- 树（其实B-是由B-tree翻译过来，所以B-树和B树是一个概念） ，它就是一种平衡多路查找树。下图就是一个典型的B树：  
![这里写图片描述][20160926140212457]

从上图中我们可以大致看到B树的一些特点，为了更好的描述B树，我们定义记录为一个二元组`[key, data]`，key为记录的键值，data表示其它数据（上图中只有key，没有画出data数据 ）。下面是对B树的一个详细定义：

1.  有一个根节点，根节点只有一个记录和两个孩子或者根节点为空；
2.  每个节点记录中的key和指针相互间隔，指针指向孩子节点；
3.  d是表示树的宽度，除叶子节点之外，其它每个节点有\[d/2,d-1\]条记录，并且些记录中的key都是从左到右按大小排列的，有\[d/2+1,d\]个孩子；
4.  在一个节点中，第n个子树中的所有key，小于这个节点中第n个key，大于第n-1个key，比如上图中B节点的第2个子节点E中的所有key都小于B中的第2个key 9，大于第1个key 3;
5.  所有的叶子节点必须在同一层次，也就是它们具有相同的深度；

由于B-Tree的特性，在B-Tree中按key检索数据的算法非常直观：首先从根节点进行二分查找，如果找到则返回对应节点的data，否则对相应区间的指针指向的节点递归进行查找，直到找到节点或找到null指针，前者查找成功，后者查找失败。B-Tree上查找算法的伪代码如下：

BTree_Search(node, key) {
         if(node == null) return null;
         foreach(node.key){
              if(node.key[i] == key) return node.data[i];
              if(node.key[i] > key) return BTree_Search(point[i]->node);
          }
         return BTree_Search(point[i+1]->node);
      }
    data = BTree_Search(root, my_key);
    
     
      
       1
       2
       3
       4
       5
       6
       7
       8
       9

关于B-Tree有一系列有趣的性质，例如一个度为d的B-Tree，设其索引N个key，则其树高h的上限为`logd((N+1)/2)`，检索一个key，其查找节点个数的渐进复杂度为`O(logdN)`。从这点可以看出，B-Tree是一个非常有效率的索引数据结构。

另外，由于插入删除新的数据记录会破坏B-Tree的性质，因此在插入删除时，需要对树进行一个分裂、合并、转移等操作以保持B-Tree性质，本文不打算完整讨论B-Tree这些内容，因为已经有许多资料详细说明了B-Tree的数学性质及插入删除算法，有兴趣的朋友可以查阅其它文献进行详细研究。

#### 1.2 B+Tree ####

其实B-Tree有许多变种，其中最常见的是B+Tree，比如MySQL就普遍使用B+Tree实现其索引结构。B-Tree相比，B+Tree有以下不同点：

*  每个节点的指针上限为2d而不是2d+1；
 *  内节点不存储data，只存储key；
 *  叶子节点不存储指针；

下面是一个简单的B+Tree示意。  
![这里写图片描述][20160926140413000]

由于并不是所有节点都具有相同的域，因此B+Tree中叶节点和内节点一般大小不同。这点与B-Tree不同，虽然B-Tree中不同节点存放的key和指针可能数量不一致，但是每个节点的域和上限是一致的，所以在实现中B-Tree往往对每个节点申请同等大小的空间。一般来说，B+Tree比B-Tree更适合实现外存储索引结构，具体原因与外存储器原理及计算机存取原理有关，将在下面讨论。

#### 1.3 带有顺序访问指针的B+Tree ####

一般在数据库系统或文件系统中使用的B+Tree结构都在经典B+Tree的基础上进行了优化，增加了顺序访问指针。  
![这里写图片描述][20160926140641162]

如图所示，在B+Tree的每个叶子节点增加一个指向相邻叶子节点的指针，就形成了带有顺序访问指针的B+Tree。做这个优化的目的是为了提高区间访问的性能，例如图4中如果要查询key为从18到49的所有数据记录，当找到18后，只需顺着节点和指针顺序遍历就可以一次性访问到所有数据节点，极大提到了区间查询效率。

下一节结合存储器存取原理介绍为什么目前B+Tree是数据库系统实现索引的首选数据结构。

## 2、数据库索引所采用的数据结构B-/+Tree及其性能分析 ##

到这里终于可以分析为何数据库索引采用B-/+Tree存储结构了。上文说过数据库索引是存储到磁盘的而我们又一般以使用磁盘I/O次数来评价索引结构的优劣。先从B-Tree分析，根据B-Tree的定义，可知检索一次最多需要访问`h-1`个节点（根节点常驻内存）。数据库系统的设计者巧妙利用了磁盘预读原理，将一个节点的大小设为等于一个页，这样每个节点只需要一次I/O就可以完全载入。为了达到这个目的，在实际实现B-Tree还需要使用如下技巧：每次新建节点时，直接申请一个页的空间，这样就保证一个节点物理上也存储在一个页里，加之计算机存储分配都是按页对齐的，就实现了一个node只需一次I/O。

B-Tree中一次检索最多需要`h-1`次I/O（根节点常驻内存），渐进复杂度为`O(h)=O(logdN)`。一般实际应用中，出度d是非常大的数字，通常超过100，因此h非常小（通常不超过3）。

综上所述，如果我们采用B-Tree存储结构，搜索时I/O次数一般不会超过3次，所以用B-Tree作为索引结构效率是非常高的。

### 2.1 B+树性能分析 ###

从上面介绍我们知道，B树的搜索复杂度为`O(h)=O(logdN)`，所以树的出度d越大，深度h就越小，I/O的次数就越少。B+Tree恰恰可以增加出度d的宽度，因为每个节点大小为一个页大小，所以出度的上限取决于节点内key和data的大小：

dmax=floor(pagesize/(keysize+datasize+pointsize))//floor表示向下取整
    
     
      
       1

由于B+Tree内节点去掉了data域，因此可以拥有更大的出度，从而拥有更好的性能。

### 2.2 B+树查找过程 ###

![这里写图片描述][20160926141127260]  
B-树和B+树查找过程基本一致。如上图所示，如果要查找数据项29，那么首先会把磁盘块1由磁盘加载到内存，此时发生一次IO，在内存中用二分查找确定29在17和35之间，锁定磁盘块1的P2指针，内存时间因为非常短（相比磁盘的IO）可以忽略不计，通过磁盘块1的P2指针的磁盘地址把磁盘块3由磁盘加载到内存，发生第二次IO，29在26和30之间，锁定磁盘块3的P2指针，通过指针加载磁盘块8到内存，发生第三次IO，同时内存中做二分查找找到29，结束查询，总计三次IO。真实的情况是，3层的b+树可以表示上百万的数据，如果上百万的数据查找只需要三次IO，性能提高将是巨大的，如果没有索引，每个数据项都要发生一次IO，那么总共需要百万次的IO，显然成本非常非常高。

这一章从理论角度讨论了与索引相关的数据结构与算法问题，下一章将讨论B+Tree是如何具体实现为MySQL中索引，同时将结合MyISAM和InnDB存储引擎介绍非聚集索引和聚集索引两种不同的索引实现形式。

## 3、MySQL索引实现 ##

在MySQL中，索引属于存储引擎级别的概念，不同存储引擎对索引的实现方式是不同的，本文主要讨论MyISAM和InnoDB两个存储引擎的索引实现方式。

### 3.1 MyISAM索引实现 ###

MyISAM引擎使用B+Tree作为索引结构，叶节点的data域存放的是数据记录的地址。下图是MyISAM索引的原理图：  
![这里写图片描述][20160926141231996]

这里设表一共有三列，假设我们以Col1为主键，则上图是一个MyISAM表的主索引（Primary key）示意。可以看出MyISAM的索引文件仅仅保存数据记录的地址。在MyISAM中，主索引和辅助索引（Secondary key）在结构上没有任何区别，只是主索引要求key是唯一的，而辅助索引的key可以重复。如果我们在Col2上建立一个辅助索引，则此索引的结构如下图所示：  
![这里写图片描述][20160926141811354]

同样也是一颗B+Tree，data域保存数据记录的地址。因此，MyISAM中索引检索的算法为首先按照B+Tree搜索算法搜索索引，如果指定的Key存在，则取出其data域的值，然后以data域的值为地址，读取相应数据记录。  
MyISAM的索引方式也叫做“非聚集”的，之所以这么称呼是为了与InnoDB的聚集索引区分。

### 3.2 InnoDB索引实现 ###

虽然InnoDB也使用B+Tree作为索引结构，但具体实现方式却与MyISAM截然不同。

第一个重大区别是InnoDB的数据文件本身就是索引文件。从上文知道，MyISAM索引文件和数据文件是分离的，索引文件仅保存数据记录的地址。而在InnoDB中，表数据文件本身就是按B+Tree组织的一个索引结构，这棵树的叶节点data域保存了完整的数据记录。这个索引的key是数据表的主键，因此InnoDB表数据文件本身就是主索引。  
![这里写图片描述][20160926141856136]

上图是InnoDB主索引（同时也是数据文件）的示意图，可以看到叶节点包含了完整的数据记录。这种索引叫做聚集索引。因为InnoDB的数据文件本身要按主键聚集，所以InnoDB要求表必须有主键（MyISAM可以没有），如果没有显式指定，则MySQL系统会自动选择一个可以唯一标识数据记录的列作为主键，如果不存在这种列，则MySQL自动为InnoDB表生成一个隐含字段作为主键，这个字段长度为6个字节，类型为长整形。

第二个与MyISAM索引的不同是InnoDB的辅助索引data域存储相应记录主键的值而不是地址。换句话说，InnoDB的所有辅助索引都引用主键作为data域。例如，下图为定义在Col3上的一个辅助索引：  
![这里写图片描述][20160926141926745]

这里以英文字符的ASCII码作为比较准则。聚集索引这种实现方式使得按主键的搜索十分高效，但是辅助索引搜索需要检索两遍索引：首先检索辅助索引获得主键，然后用主键到主索引中检索获得记录。

了解不同存储引擎的索引实现方式对于正确使用和优化索引都非常有帮助，例如知道了InnoDB的索引实现后，就很容易明白为什么不建议使用过长的字段作为主键，因为所有辅助索引都引用主索引，过长的主索引会令辅助索引变得过大。再例如，用非单调的字段作为主键在InnoDB中不是个好主意，因为InnoDB数据文件本身是一颗B+Tree，非单调的主键会造成在插入新记录时数据文件为了维持B+Tree的特性而频繁的分裂调整，十分低效，而使用自增字段作为主键则是一个很好的选择。

下一章将具体讨论这些与索引有关的优化策略。

## 六、索引使用策略及优化 ##

MySQL的优化主要分为结构优化（Scheme optimization）和查询优化（Query optimization）。本章讨论的高性能索引策略主要属于结构优化范畴。本章的内容完全基于上文的理论基础，实际上一旦理解了索引背后的机制，那么选择高性能的策略就变成了纯粹的推理，并且可以理解这些策略背后的逻辑。

### 6.1 联合索引及最左前缀原理 ###

#### 联合索引（复合索引） ####

首先介绍一下联合索引。联合索引其实很简单，相对于一般索引只有一个字段，联合索引可以为多个字段创建一个索引。它的原理也很简单，比如，我们在（a,b,c）字段上创建一个联合索引，则索引记录会首先按照A字段排序，然后再按照B字段排序然后再是C字段，因此，联合索引的特点就是：

*  第一个字段一定是有序的
 *  当第一个字段值相等的时候，第二个字段又是有序的，比如下表中当A=2时所有B的值是有序排列的，依次类推，当同一个B值得所有C字段是有序排列的

| A | B | C |  
| 1 | 2 | 3 |  
| 1 | 4 | 2 |  
| 1 | 1 | 4 |  
| 2 | 3 | 5 |  
| 2 | 4 | 4 |  
| 2 | 4 | 6 |  
| 2 | 5 | 5 |

其实联合索引的查找就跟查字典是一样的，先根据第一个字母查，然后再根据第二个字母查，或者只根据第一个字母查，但是不能跳过第一个字母从第二个字母开始查。这就是所谓的最左前缀原理。

#### 最左前缀原理 ####

我们再来详细介绍一下联合索引的查询。还是上面例子，我们在`（a,b,c）`字段上建了一个联合索引，所以这个索引是先按a 再按b 再按c进行排列的，所以：

**以下的查询方式都可以用到索引**

select * from table where a=1；
    select * from table where a=1 and b=2；
    select * from table where a=1 and b=2 and c=3；
    
     
      
       1
       2
       3

上面三个查询按照 `（a ）, （a，b ）,（a，b，c ）`的顺序都可以利用到索引，这就是最左前缀匹配。

如果查询语句是：

select * from table where a=1 and c=3； 那么只会用到索引a。
    
     
      
       1

如果查询语句是：

select * from table where b=2 and c=3； 因为没有用到最左前缀a，所以这个查询是用户到索引的。
    
     
      
       1

**如果用到了最左前缀，但是顺序颠倒会用到索引码？**

比如：

select * from table where b=2 and a=1；
    select * from table where b=2 and a=1 and c=3；
    
     
      
       1
       2

如果用到了最左前缀而只是颠倒了顺序，也是可以用到索引的，因为mysql查询优化器会判断纠正这条sql语句该以什么样的顺序执行效率最高，最后才生成真正的执行计划。但我们还是最好按照索引顺序来查询，这样查询优化器就不用重新编译了。

#### 前缀索引 ####

除了联合索引之外，对mysql来说其实还有一种前缀索引。前缀索引就是用列的前缀代替整个列作为索引key，当前缀长度合适时，可以做到既使得前缀索引的选择性接近全列索引，同时因为索引key变短而减少了索引文件的大小和维护开销。

一般来说以下情况可以使用前缀索引：

*  字符串列(varchar,char,text等)，需要进行全字段匹配或者前匹配。也就是=‘xxx’ 或者 like ‘xxx%’
 *  字符串本身可能比较长，而且前几个字符就开始不相同。比如我们对中国人的姓名使用前缀索引就没啥意义，因为中国人名字都很短，另外对收件地址使用前缀索引也不是很实用，因为一方面收件地址一般都是以XX省开头，也就是说前几个字符都是差不多的，而且收件地址进行检索一般都是like ’%xxx%’，不会用到前匹配。相反对外国人的姓名可以使用前缀索引，因为其字符较长，而且前几个字符的选择性比较高。同样电子邮件也是一个可以使用前缀索引的字段。
 *  前一半字符的索引选择性就已经接近于全字段的索引选择性。如果整个字段的长度为20，索引选择性为0.9，而我们对前10个字符建立前缀索引其选择性也只有0.5，那么我们需要继续加大前缀字符的长度，但是这个时候前缀索引的优势已经不明显，没有太大的建前缀索引的必要了。

一些文章中也提到：

MySQL 前缀索引能有效减小索引文件的大小，提高索引的速度。但是前缀索引也有它的坏处：MySQL 不能在 ORDER BY 或 GROUP BY 中使用前缀索引，也不能把它们用作覆盖索引(Covering Index)。

### 6.2 索引优化策略 ###

*  最左前缀匹配原则，上面讲到了
 *  主键外检一定要建索引
 *  对 where,on,group by,order by 中出现的列使用索引
 *  尽量选择区分度高的列作为索引,区分度的公式是count(distinct col)/count(\*)，表示字段不重复的比例，比例越大我们扫描的记录数越少，唯一键的区分度是1，而一些状态、性别字段可能在大数据面前区分度就是0
 *  对较小的数据列使用索引,这样会使索引文件更小,同时内存中也可以装载更多的索引键
 *  索引列不能参与计算，保持列“干净”，比如from\_unixtime(create\_time) = ’2014-05-29’就不能使用到索引，原因很简单，b+树中存的都是数据表中的字段值，但进行检索时，需要把所有元素都应用函数才能比较，显然成本太大。所以语句应该写成create\_time = unix\_timestamp(’2014-05-29’);
 *  为较长的字符串使用前缀索引
 *  尽量的扩展索引，不要新建索引。比如表中已经有a的索引，现在要加(a,b)的索引，那么只需要修改原来的索引即可
 *  不要过多创建索引, 权衡索引个数与DML之间关系，DML也就是插入、删除数据操作。这里需要权衡一个问题，建立索引的目的是为了提高查询效率的，但建立的索引过多，会影响插入、删除数据的速度，因为我们修改的表数据，索引也需要进行调整重建
 *  对于like查询，”%”不要放在前面。  
    `SELECT * FROM`houdunwang`WHERE`uname`LIKE'后盾%' -- 走索引`  
    `SELECT * FROM`houdunwang`WHERE`uname`LIKE "%后盾%" -- 不走索引`
 *  查询where条件数据类型不匹配也无法使用索引  
    字符串与数字比较不使用索引;  
    `CREATE TABLE`a`(`a`char(10));`  
    `EXPLAIN SELECT * FROM`a`WHERE`a`="1"` – 走索引  
    EXPLAIN SELECT \* FROM `a` WHERE `a`=1 – 不走索引  
    正则表达式不使用索引,这应该很好理解,所以为什么在SQL中很难看到regexp关键字的原因

参考文章：

[http://blog.csdn.net/suifeng3051/article/details/49530299?locationNum=1][http_blog.csdn.net_suifeng3051_article_details_49530299_locationNum_1]  
[http://tech.meituan.com/mysql-index.html][http_tech.meituan.com_mysql-index.html]  
[https://yq.aliyun.com/articles/39841][https_yq.aliyun.com_articles_39841]  
[http://blog.csdn.net/lovelion/article/details/8462814][http_blog.csdn.net_lovelion_article_details_8462814]

[20160926140212457]: /images/20211015/ee9d901a16a5438db044aa9f61eb1861.png
[20160926140413000]: /images/20211015/1cb6f1aac4214a899040741994ab8e81.png
[20160926140641162]: /images/20211015/c6f66c8d2e5e42839aa75ca433313291.png
[20160926141127260]: /images/20211015/a7bd9bcf022244bda4050fa535df643b.png
[20160926141231996]: /images/20211015/141877fad03043efaa88df24d8942fec.png
[20160926141811354]: /images/20211015/30af3f4d693a4f72918e83f21a8f9090.png
[20160926141856136]: /images/20211015/dbec1e6c876f4d50be1d9ca2d4205f2b.png
[20160926141926745]: /images/20211015/f7d8fedb105d41e897c3e621409178d2.png
[http_blog.csdn.net_suifeng3051_article_details_49530299_locationNum_1]: http://blog.csdn.net/suifeng3051/article/details/49530299?locationNum=1
[http_tech.meituan.com_mysql-index.html]: http://tech.meituan.com/mysql-index.html
[https_yq.aliyun.com_articles_39841]: https://yq.aliyun.com/articles/39841
[http_blog.csdn.net_lovelion_article_details_8462814]: http://blog.csdn.net/lovelion/article/details/8462814