前言

数据库系列更新到现在我想大家对所有的概念都已有个大概认识了，这周我在看评论的时候我发现有个网友的提问我觉得很有意思：帅丙如何设计一个索引?你们都是怎么设计索引的?怎么设计更高效?

我一想索引我写过很多了呀，没道理读者还不会啊，但是我一回头看完，那确实，我就写了索引的概念，优劣势，没提到怎么设计，那这篇文章又这样应运而生了。

本文

还是会有很多之前写过的重复概念，但是也是为了大家能更好的理解MySQL中几种索引设计的原理。

正文我们知道，索引是一个基于链表实现的树状Tree结构，能够快速的检索数据，目前几乎所RDBMS数据库都实现了索引特性，比如MySQL的B+Tree索引，MongoDB的BTree索引等。

在业务开发过程中，索引设计高效与否决定了接口对应SQL的执行效率，高效的索引可以降低接口的Response Time，同时还可以降低成本，我们要现实的目标是：索引设计->降低接口响应时间->降低服务器配置->降低成本，最终要落实到成本上来，因为老板最关心的是成本。

今天就跟大家聊聊MySQL中的索引以及如何设计索引，使用索引才能提降低接口的RT，提高用户体检。

MySQL中的索引

MySQL中的InnoDB引擎使用B+Tree结构来存储索引，可以尽量减少数据查询时磁盘IO次数，同时树的高度直接影响了查询的性能，一般树的高度维持在 3~4 层。

B+Tree由三部分组成：根root、枝branch以及Leaf叶子，其中root和branch不存储数据，只存储指针地址，数据全部存储在Leaf Node，同时Leaf Node之间用双向链表链接，结构如下：

从上面可以看到，每个Leaf Node是三部分组成的，即前驱指针p_prev，数据data以及后继指针p_next，同时数据data是有序的，默认是升序ASC，分布在B+tree右边的键值总是大于左边的，同时从root到每个Leaf的距离是相等的，也就是访问任何一个Leaf Node需要的IO是一样的，即索引树的高度Level + 1次IO操作。

我们可以将MySQL中的索引可以看成一张小表，占用磁盘空间，创建索引的过程其实就是按照索引列排序的过程，先在sort_buffer_size进行排序，如果排序的数据量大，sort_buffer_size容量不下，就需要通过临时文件来排序，最重要的是通过索引可以避免排序操作(distinct，group by，order by)。

聚集索引

MySQL中的表是IOT(Index Organization Table，索引组织表)，数据按照主键id顺序存储(逻辑上是连续，物理上不连续)，而且主键id是聚集索引(clustered index)，存储着整行数据，如果没有显示的指定主键，MySQL会将所有的列组合起来构造一个row_id作为primary key，例如表users(id, user_id, user_name, phone, primary key(id))，id是聚集索引，存储了id, user_id, user_name, phone整行的数据。

辅助索引

辅助索引也称为二级索引，索引中除了存储索引列外，还存储了主键id，对于user_name的索引idx_user_name(user_name)而言，其实等价于idx_user_name(user_name, id)，MySQL会自动在辅助索引的最后添加上主键id，熟悉Oracle数据库的都知道，索引里除了索引列还存储了row_id(代表数据的物理位置，由四部分组成：对象编号+数据文件号+数据块号+数据行号)，我们在创建辅助索引也可以显示添加主键id。

--创建user_name列上的索引
mysql>createindexidx_user_nameonusers(user_name);
--显示添加主键id创建索引
mysql>createindexidx_user_name_idonusers(user_name,id);
--对比两个索引的统计数据
mysql>selecta.spaceastbl_spaceid,a.table_id,a.nameastable_name,row_format,space_type,b.index_id,b.nameasindex_name,n_fields,page_no,b.typeasindex_typefrominformation_schema.INNODB_TABLESaleftjoininformation_schema.INNODB_INDEXESbona.table_id=b.table_idwherea.name='test/users';
+-------------+----------+------------+------------+------------+----------+------------------+----------+------
|tbl_spaceid|table_id|table_name|row_format|space_type|index_id|index_name|n_fields|page_no|index_type|
+-------------+----------+------------+------------+------------+----------+------------------+----------+------
|518|1586|test/users|Dynamic|Single|1254|PRIMARY|9|4|3|
|518|1586|test/users|Dynamic|Single|4003|idx_user_name|2|5|0|
|518|1586|test/users|Dynamic|Single|4004|idx_user_name_id|2|45|0|
mysql>selectindex_name,last_update,stat_name,stat_value,stat_descriptionfrommysql.innodb_index_statswhereindex_namein('idx_user_name','idx_user_name_id');
+------------------+---------------------+--------------+------------+-----------------------------------+
|index_name|last_update|stat_name|stat_value|stat_description|
+------------------+---------------------+--------------+------------+-----------------------------------+
|idx_user_name|2021-01-0217:14:48|n_leaf_pages|1358|Numberofleafpagesintheindex|
|idx_user_name|2021-01-0217:14:48|size|1572|Numberofpagesintheindex|
|idx_user_name_id|2021-01-0217:14:48|n_leaf_pages|1358|Numberofleafpagesintheindex|
|idx_user_name_id|2021-01-0217:14:48|size|1572|Numberofpagesintheindex|

对比一下两个索引的结果，n_fields表示索引中的列数，n_leaf_pages表示索引中的叶子页数，size表示索引中的总页数，通过数据比对就可以看到，辅助索引中确实包含了主键id，也说明了这两个索引时完全一致。

索引回表

上面证明了辅助索引包含主键id，如果通过辅助索引列去过滤数据有可能需要回表，举个例子：业务需要通过用户名user_name去查询用户表users的信息，业务接口对应的SQL：

selectuser_id,user_name,phonefromuserswhereuser_name='Laaa';

我们知道，对于索引idx_user_name而言，其实就是一个小表idx_user_name(user_name, id)，如果只查询索引中的列，只需要扫描索引就能获取到所需数据，是不需要回表的，如下SQL语句：

SQL 1: select id, user_name from users where user_name = ‘Laaa’;

SQL 2: select id from users where user_name = ‘Laaa’;

mysql>explainselectid,namefromuserswherename='Laaa';
+----+-------------+-------+------------+------+---------------+---------------+---------+-------+------+-------
|id|select_type|table|partitions|type|possible_keys|key|key_len|ref|rows|filtered|Extra|
+----+-------------+-------+------------+------+---------------+---------------+---------+-------+------+-------
|1|SIMPLE|users|NULL|ref|idx_user_name|idx_user_name|82|const|1|100.00|Usingindex|
mysql>explainselectidfromuserswherename='Laaa';
+----+-------------+-------+------------+------+---------------+---------------+---------+-------+------+-------
|id|select_type|table|partitions|type|possible_keys|key|key_len|ref|rows|filtered|Extra|
+----+-------------+-------+------------+------+---------------+---------------+---------+-------+------+-------
|1|SIMPLE|users|NULL|ref|idx_user_name|idx_user_name|82|const|1|100.00|Usingindex|

SQL 1和SQL 2的执行计划中的Extra=Using index 表示使用覆盖索引扫描，不需要回表，再来看上面的业务SQL：

select user_id, user_name, phone from users where user_name = ‘Laaa’;

可以看到select后面的user_id，phone列不在索引idx_user_name中，就需要通过主键id进行回表查找，MySQL内部分如下两个阶段处理：

Section 1：select **id** from users where user_name = ‘Laaa’ //id = 100101

Section 2: select user_id, user_name, phone from users where id = 100101;

将Section 2的操作称为回表，即通过辅助索引中的主键id去原表中查找数据。

索引高度

MySQL的索引时B+tree结构，即使表里有上亿条数据，索引的高度都不会很高，通常维持在3-4层左右，我来计算下索引idx_name的高度，从上面知道索引信息：index_id = 4003， page_no = 5，它的偏移量offset就是page_no x innodo_page_size + 64 = 81984，通过hexdump进行查看

$hexdump-s81984-n10/usr/local/var/mysql/test/users.ibd
001404000020000000000000fa3
001404a

其中索引的PAGE_LEVEL为00，即idx_user_name索引高度为1，0f a3 代表索引编号，转换为十进制是4003，正是index_id。

数据扫描方式

全表扫描

从左到右依次扫描整个B+Tree获取数据，扫描整个表数据，IO开销大，速度慢，锁等严重，影响MySQL的并发。

对于OLAP的业务场景，需要扫描返回大量数据，这时候全表扫描的顺序IO效率更高。

索引扫描

通常来讲索引比表小，扫描的数据量小，消耗的IO少，执行速度块，几乎没有锁等，能够提高MySQL的并发。

对于OLTP系统，希望所有的SQL都能命中合适的索引总是美好的。

主要区别就是扫描数据量大小以及IO的操作，全表扫描是顺序IO，索引扫描是随机IO，MySQL对此做了优化，增加了change buffer特性来提高IO性能。

索引优化案例

分页查询优化

业务要根据时间范围查询交易记录，接口原始的SQL如下：

select*fromtrade_infowherestatus=0andcreate_time>='2020-10-0100:00:00'andcreate_time<='2020-10-0723:59:59'orderbyiddesclimit102120,20;

表trade_info上有索引idx_status_create_time(status,create_time)，通过上面分析知道，等价于索引**(status,create_time,id)**，对于典型的分页limit m, n来说，越往后翻页越慢，也就是m越大会越慢，因为要定位m位置需要扫描的数据越来越多，导致IO开销比较大，这里可以利用辅助索引的覆盖扫描来进行优化，先获取id，这一步就是索引覆盖扫描，不需要回表，然后通过id跟原表trade_info进行关联，改写后的SQL如下：

select*fromtrade_infoa,

(selectidfromtrade_infowherestatus=0andcreate_time>='2020-10-0100:00:00'andcreate_time<='2020-10-0723:59:59'orderbyiddesclimit102120,20)asb//这一步走的是索引覆盖扫描，不需要回表
wherea.id=b.id;

很多同学只知道这样写效率高，但是未必知道为什么要这样改写，理解索引特性对编写高质量的SQL尤为重要。

分而治之总是不错的

营销系统有一批过期的优惠卷要失效，核心SQL如下：

--需要更新的数据量500w
updatecouponssetstatus=1wherestatus=0andcreate_time>='2020-10-0100:00:00'andcreate_time<='2020-10-0723:59:59';

在Oracle里更新500w数据是很快，因为可以利用多个cpu core去执行，但是MySQL就需要注意了，一个SQL只能使用一个cpu core去处理，如果SQL很复杂或执行很慢，就会阻塞后面的SQL请求，造成活动连接数暴增，MySQL CPU 100%，相应的接口Timeout，同时对于主从复制架构，而且做了业务读写分离，更新500w数据需要5分钟，Master上执行了5分钟，binlog传到了slave也需要执行5分钟，那就是Slave延迟5分钟，在这期间会造成业务脏数据，比如重复下单等。

优化思路：先获取where条件中的最小id和最大id，然后分批次去更新，每个批次1000条，这样既能快速完成更新，又能保证主从复制不会出现延迟。

优化如下：

1.先获取要更新的数据范围内的最小id和最大id(表没有物理delete，所以id是连续的)

mysql>explainselectmin(id)min_id,max(id)max_idfromcouponswherestatus=0andcreate_time>='2020-10-0100:00:00'andcreate_time<='2020-10-0723:59:59';
+----+-------------+-------+------------+-------+------------------------+------------------------+---------+---
|id|select_type|table|partitions|type|possible_keys|key|key_len|ref|rows|filtered|Extra|
+----+-------------+-------+------------+-------+------------------------+------------------------+---------+---
|1|SIMPLE|users|NULL|range|idx_status_create_time|idx_status_create_time|6|NULL|180300|100.00|Usingwhere;Usingindex|

Extra=Using where; Using index使用了索引idx_status_create_time，同时需要的数据都在索引中能找到，所以不需要回表查询数据。

2.以每次1000条commit一次进行循环update，主要代码如下：

current_id=min_id;
forcurrent_id<max_iddo
updatecouponssetstatus=1whereid>=current_idandid<=current_id+1000;//通过主键id更新1000条很快
commit;
current_id+=1000;
done

这两个案例告诉我们，要充分利用辅助索引包含主键id的特性，先通过索引获取主键id走覆盖索引扫描，不需要回表，然后再通过id去关联操作是高效的，同时根据MySQL的特性使用分而治之的思想既能高效完成操作，又能避免主从复制延迟产生的业务数据混乱。

MySQL索引设计

熟悉了索引的特性之后，就可以在业务开发过程中设计高质量的索引，降低接口的响应时间。

前缀索引

对于使用REDUNDANT或者COMPACT格式的InnoDB表，索引键前缀长度限制为767字节。如果TEXT或VARCHAR列的列前缀索引超过191个字符，则可能会达到此限制，假定为utf8mb4字符集，每个字符最多4个字节。

可以通过设置参数innodb_large_prefix来开启或禁用索引前缀长度的限制，即是设置为OFF，索引虽然可以创建成功，也会有一个警告，主要是因为index size会很大，效率大量的IO的操作，即使MySQL优化器命中了该索引，效率也不会很高。

--设置innodb_large_prefix=OFF禁用索引前缀限制，虽然可以创建成功，但是有警告。
mysql>createindexidx_nicknameonusers(nickname);//`nickname`varchar(255)
Records:0Duplicates:0Warnings:1
mysql>showwarnings;
+---------+------+---------------------------------------------------------+
|Level|Code|Message|
+---------+------+---------------------------------------------------------+
|Warning|1071|Specifiedkeywastoolong;maxkeylengthis767bytes|

业务发展初期，为了快速实现功能，对一些数据表字段的长度定义都比较宽松，比如用户表users的昵称nickname定义为varchar(128)，而且有业务接口需要通过nickname查询，系统运行了一段时间之后，查询users表最大的nickname长度为30，这个时候就可以创建前缀索引来减小索引的长度提升性能。

--`nickname`varchar(128)DEFAULTNULL定义的执行计划
mysql>explainselect*fromuserswherenickname='Laaa';
+----+-------------+-------+------------+------+---------------+--------------+---------+-------+------+--------
|id|select_type|table|partitions|type|possible_keys|key|key_len|ref|rows|filtered|Extra|
+----+-------------+-------+------------+------+---------------+--------------+---------+-------+------+--------
|1|SIMPLE|users|NULL|ref|idx_nickname|idx_nickname|515|const|1|100.00|NULL|

key_len=515，由于表和列都是utf8mb4字符集，每个字符占4个字节，变长数据类型+2Bytes，允许NULL额外+1Bytes，即128 x 4 + 2 + 1 = 515Bytes。创建前缀索引，前缀长度也可以不是当前表的数据列最大值，应该是区分度最高的那部分长度，一般能达到90%以上即可，例如email字段存储都是类似这样的值xxxx@yyy.com，前缀索引的最大长度可以是xxxx这部分的最大长度即可。

--创建前缀索引，前缀长度为30
mysql>createindexidx_nickname_partonusers(nickname(30));
--查看执行计划
mysql>explainselect*fromuserswherenickname='Laaa';
+----+-------------+-------+------------+------+--------------------------------+-------------------+---------+-
|id|select_type|table|partitions|type|possible_keys|key|key_len|ref|rows|filtered|Extra|
+----+-------------+-------+------------+------+--------------------------------+-------------------+---------+-
|1|SIMPLE|users|NULL|ref|idx_nickname_part,idx_nickname|idx_nickname_part|123|const|1|100.00|Usingwhere|

可以看到优化器选择了前缀索引，索引长度为123，即30 x 4 + 2 + 1 = 123 Bytes，大小不到原来的四分之。

前缀索引虽然可以减小索引的大小，但是不能消除排序。

mysql>explainselectgender,count(*)fromuserswherenicknamelike'User100%'groupbynicknamelimit10;
+----+-------------+-------+------------+-------+--------------------------------+--------------+---------+-----
|id|select_type|table|partitions|type|possible_keys|key|key_len|ref|rows|filtered|Extra|
+----+-------------+-------+------------+-------+--------------------------------+--------------+---------+-----
|1|SIMPLE|users|NULL|range|idx_nickname_part,idx_nickname|idx_nickname|515|NULL|899|100.00|Usingindexcondition|
--可以看到Extra=Usingindexcondition表示使用了索引，但是需要回表查询数据，没有发生排序操作。
mysql>explainselectgender,count(*)fromuserswherenicknamelike'User100%'groupbynicknamelimit10;
+----+-------------+-------+------------+-------+-------------------+-------------------+---------+------+------
|id|select_type|table|partitions|type|possible_keys|key|key_len|ref|rows|filtered|Extra|
+----+-------------+-------+------------+-------+-------------------+-------------------+---------+------+------
|1|SIMPLE|users|NULL|range|idx_nickname_part|idx_nickname_part|123|NULL|899|100.00|Usingwhere;Usingtemporary|
--可以看到Extra=Usingwhere;Usingtemporaryn表示在使用了索引的情况下，需要回表去查询所需的数据，同时发生了排序操作。

复合索引

在单列索引不能很好的过滤数据的时候，可以结合where条件中其他字段来创建复合索引，更好的去过滤数据，减少IO的扫描次数，举个例子：业务需要按照时间段来查询交易记录，有如下的SQL：

select*fromtrade_infowherestatus=1andcreate_time>='2020-10-0100:00:00'andcreate_time<='2020-10-0723:59:59';

开发同学根据以往复合索引的设计的经验：唯一值多选择性好的列作为复合索引的前导列，所以创建复合索idx_create_time_status是高效的，因为create_time是一秒一个值，唯一值很多，选择性很好，而status只有离散的6个值，所以认为这样创建是没问题的，但是这个经验只适合于等值条件过滤，不适合有范围条件过滤的情况，例如idx_user_id_status(user_id，status)这个是没问题的，但是对于包含有create_time范围的复合索引来说，就不适应了，我们来看下这两种不同索引顺序的差异，即idx_status_create_time和idx_create_time_status。

--分别创建两种不同的复合索引
mysql>createindexidx_status_create_timeontrade_info(status,create_time);
mysql>createindexidx_create_time_statusontrade_info(create_time,status);
--查看SQL的执行计划
mysql>explainselect*fromuserswherestatus=1andcreate_time>='2021-10-0100:00:00'andcreate_time<='2021-10-0723:59:59';
+----+-------------+-------+------------+-------+-----------------------------------------------+---------------
|id|select_type|table|partitions|type|possible_keys|key|key_len|ref|rows|filtered|Extra|
+----+-------------+-------+------------+-------+-----------------------------------------------+---------------
|1|SIMPLE|trade_info|NULL|range|idx_status_create_time,idx_create_time_status|idx_status_create_time|6|NULL|98518|100.00|Usingindexcondition|

从执行计划可以看到，两种不同顺序的复合索引都存在的情况，MySQL优化器选择的是idx_status_create_time索引，那为什么不选择idx_create_time_status，我们通过optimizer_trace来跟踪优化器的选择。

--开启optimizer_trace跟踪
mysql>setsessionoptimizer_trace="enabled=on",end_markers_in_json=on;
--执行SQL语句
mysql>select*fromtrade_infowherestatus=1andcreate_time>='2021-10-0100:00:00'andcreate_time<='2021-10-0723:59:59';
--查看跟踪结果
mysql>SELECTtraceFROMinformation_schema.OPTIMIZER_TRACE\G;

对比下两个索引的统计数据，如下所示：

MySQL优化器是基于Cost的，COST主要包括IO_COST和CPU_COST，MySQL的CBO(Cost-Based Optimizer基于成本的优化器)总是选择Cost最小的作为最终的执行计划去执行，从上面的分析，CBO选择的是复合索引idx_status_create_time，因为该索引中的status和create_time都能参与了数据过滤，成本较低;而idx_create_time_status只有create_time参数数据过滤，status被忽略了，其实CBO将其简化为单列索引idx_create_time，选择性没有复合索引idx_status_create_time好。

复合索引设计原则

1. 将范围查询的列放在复合索引的最后面，例如idx_status_create_time。
2. 列过滤的频繁越高，选择性越好，应该作为复合索引的前导列，适用于等值查找，例如idx_user_id_status。

   这两个原则不是矛盾的，而是相辅相成的。

   跳跃索引

   一般情况下，如果表users有复合索引idx_status_create_time，我们都知道，单独用create_time去查询，MySQL优化器是不走索引，所以还需要再创建一个单列索引idx_create_time。用过Oracle的同学都知道，是可以走索引跳跃扫描(Index Skip Scan)，在MySQL 8.0也实现Oracle类似的索引跳跃扫描，在优化器选项也可以看到skip_scan=on。

   |optimizer_switch|use_invisible_indexes=off,skip_scan=on,hash_join=on|
   

   适合复合索引前导列唯一值少，后导列唯一值多的情况，如果前导列唯一值变多了，则MySQL CBO不会选择索引跳跃扫描，取决于索引列的数据分表情况。

   mysql>explainselectid,user_id，status,phonefromuserswherecreate_time>='2021-01-0223:01:00'andcreate_time<='2021-01-0323:01:00';
   +----+-------------+-------+------------+------+---------------+------+---------+------+--------+----------+----
   |id|select_type|table|partitions|type|possible_keys|key|key_len|ref|rows|filtered|Extra|
   +----+-------------+-------+------------+------+---------------+------+---------+------+--------+----------+----
   |1|SIMPLE|users|NULL|range|idx_status_create_time|idx_status_create_time|NULL|NULL|15636|11.11|Usingwhere;Usingindexforskipscan|
   

   也可以通过optimizer_switch=’skip_scan=off’来关闭索引跳跃扫描特性。

   总结

   本位为大家介绍了MySQL中的索引，包括聚集索引和辅助索引，辅助索引包含了主键id用于回表操作，同时利用覆盖索引扫描可以更好的优化SQL。

   同时也介绍了如何更好做MySQL索引设计，包括前缀索引，复合索引的顺序问题以及MySQL 8.0推出的索引跳跃扫描，我们都知道，索引可以加快数据的检索，减少IO开销，会占用磁盘空间，是一种用空间换时间的优化手段，同时更新操作会导致索引频繁的合并分裂，影响索引性能，在实际的业务开发中，如何根据业务场景去设计合适的索引是非常重要的，今天就聊这么多，希望对大家有所帮助。