Mysql索引与Explain结合优化SQL

1、索引

官方定义:索引(Index) 是帮助 MySQL 高效获取数据的数据结构。

索引为什么是一种数据结构,它又是怎么提高查询的速度?我们拿最常用的二叉树来分析索引的工作原理。如下图:

Mysql索引与Explain结合优化SQL

创建索引的优势:

1. 提高数据的检索速度,降低数据库 IO 成本:使用索引的意义就是通过缩小表中需要查询的记录的数目从而加快搜索的速度。

2. 降低数据排序的成本,降低 CPU 消耗:索引之所以查的快,是因为先将数据排好序,若该字段正好需要排序,则真好降低了排序的成本。

创建索引的劣势:

1. 占用存储空间:索引实际上也是一张表,记录了主键与索引字段,一般以索引文件的形式存储在磁盘上。

2. 降低更新表的速度:表的数据发生了变化,对应的索引也需要一起变更,从而减低的更新速度。否则索引指向的物理数据可能不对,这也是索引失效的原因之一。

3. 优质索引创建难:索引的创建并非一日之功,也并非一直不变。需要频繁根据用户的行为和具体的业务逻辑去创建最佳的索引。

索引分类:

我们常说的索引一般指的是 BTree(多路搜索树)结构组织的索引。其中还有聚合索引,次要索引,复合索引,前缀索引,唯一索引,统称索引,当然除了 B + 树外,还有哈希索引(hash index)等。

单值索引:一个索引只包含单个列,一个表可以有多个单列索引

唯一索引:索引列的值必须唯一,但允许有空值

复合索引:一个索引包含多个列,实际开发中推荐使用

实际开发中推荐使用复合索引,并且单表创建的索引个数建议不要超过五个

基本语法:

创建:

create [unique] index indexName on tableName (columnName...)

alter tableName add [unique] index [indexName] on (columnName...)

删除:

drop index [indexName] on tableName

查看:

show index from tableName

哪些情况需要建索引:

1. 主键,唯一索引

2. 经常用作查询条件的字段需要创建索引

3. 经常需要排序、分组和统计的字段需要建立索引

4. 查询中与其他表关联的字段,外键关系建立索引

哪些情况不要建索引:

1. 表的记录太少,百万级以下的数据不需要创建索引

2. 经常增删改的表不需要创建索引

3. 数据重复且分布平均的字段不需要创建索引,如 true,false 之类。

4. 频发更新的字段不适合创建索引

5. where 条件里用不到的字段不需要创建索引

性能分析

MySQL 自身瓶颈

MySQL 自身参见的性能问题有磁盘空间不足,磁盘 I/O 太大,服务器硬件性能低。

1. CPU:CPU 在饱和的时候一般发生在数据装入内存或从磁盘上读取数据时候

2. IO:磁盘 I/O 瓶颈发生在装入数据远大于内存容量的时候

3. 服务器硬件的性能瓶颈:top,free,iostat 和 vmstat 来查看系统的性能状态

2、借助Explain 分析 sql 语句

使用 explain 关键字可以模拟优化器执行 sql 查询语句,从而得知 MySQL 是如何处理 sql 语句。

Mysql索引与Explain结合优化SQL

id

1. select 查询的序列号,包含一组可以重复的数字,表示查询中执行 sql 语句的顺序。一般有三种情况:

2. 第一种:id 全部相同,sql 的执行顺序是由上至下;

3. 第二种:id 全部不同,sql 的执行顺序是根据 id 大的优先执行;

4. 第三种:id 既存在相同,又存在不同的。先根据 id 大的优先执行,再根据相同 id 从上至下的执行。

select_type

Mysql索引与Explain结合优化SQL

partitions

1. 表所使用的分区,如果要统计十年公司订单的金额,可以把数据分为十个区,每一年代表一个区。这样可以大大的提高查询效率。

type

这是一个非常重要的参数,连接类型,常见的有:all , index , range , ref , eq_ref , const , system , null 八个级别。

性能从最优到最差的排序:system > const > eq_ref > ref > range > index > all。

对 java 程序员来说,若保证查询至少达到 range 级别或者最好能达到 ref 则算是一个优秀而又负责的程序员。

1. all:(full table scan)全表扫描无疑是最差,若是百万千万级数据量,全表扫描会非常慢。

2. index:(full index scan)全索引文件扫描比 all 好很多,毕竟从索引树中找数据,比从全表中找数据要快。

3. range:只检索给定范围的行,使用索引来匹配行。范围缩小了,当然比全表扫描和全索引文件扫描要快。sql 语句中一般会有 between,in,>,< 等查询。

4. ref:非唯一性索引扫描,本质上也是一种索引访问,返回所有匹配某个单独值的行。比如查询公司所有属于研发团队的同事,匹配的结果是多个并非唯一值。

5. eq_ref:唯一性索引扫描,对于每个索引键,表中有一条记录与之匹配。比如查询公司的 CEO,匹配的结果只可能是一条记录,

6. const:表示通过索引一次就可以找到,const 用于比较 primary key 或者 unique 索引。因为只匹配一行数据,所以很快,若将主键至于 where 列表中,MySQL 就能将该查询转换为一个常量。

7. system:表只有一条记录(等于系统表),这是 const 类型的特列,平时不会出现,了解即可

possible_keys

1. 显示查询语句可能用到的索引 (一个或多个或为 null),不一定被查询实际使用。仅供参考使用。

key

1. 显示查询语句实际使用的索引。若为 null,则表示没有使用索引。

key_len

1. 显示索引中使用的字节数,可通过 key_len 计算查询中使用的索引长度。在不损失精确性的情况下索引长度越短越好。key_len 显示的值为索引字段的最可能长度,并非实际使用长度,即 key_len 是根据表定义计算而得,并不是通过表内检索出的。

ref

1. 显示索引的哪一列或常量被用于查找索引列上的值。

rows

1. 根据表统计信息及索引选用情况,大致估算出找到所需的记录所需要读取的行数,值越大越不好。

extra

1. Using filesort: 说明 MySQL 会对数据使用一个外部的索引排序,而不是按照表内的索引顺序进行读取。MySQL 中无法利用索引完成的排序操作称为 “文件排序” 。出现这个就要立刻优化 sql。

2. Using temporary: 使用了临时表保存中间结果,MySQL 在对查询结果排序时使用临时表。常见于排序 order by 和 分组查询 group by。 出现这个更要立刻优化 sql。

3. Using index: 表示相应的 select 操作中使用了覆盖索引(Covering index),避免访问了表的数据行,效果不错!如果同时出现 Using where,表明索引被用来执行索引键值的查找。如果没有同时出现 Using where,表示索引用来读取数据而非执行查找动作。

4. 覆盖索引(Covering Index) :也叫索引覆盖,就是 select 的数据列只用从索引中就能够取得,不必读取数据行,MySQL 可以利用索引返回 select 列表中的字段,而不必根据索引再次读取数据文件。

5. Using index condition: 在 5.6 版本后加入的新特性,优化器会在索引存在的情况下,通过符合 RANGE 范围的条数 和 总数的比例来选择是使用索引还是进行全表遍历。

6. Using where: 表明使用了 where 过滤。

7. Using join buffer: 表明使用了连接缓存。

8. impossible where: where 语句的值总是 false,不可用,不能用来获取任何元素。

9. distinct: 优化 distinct 操作,在找到第一匹配的元组后即停止找同样值的动作。

filtered

1. 一个百分比的值,和 rows 列的值一起使用,可以估计出查询执行计划 (QEP) 中的前一个表的结果集,从而确定 join 操作的循环次数。小表驱动大表,减轻连接的次数。

通过 explain 的参数介绍,我们可以得知:

1. 表的读取顺序 (id)

2. 数据读取操作的操作类型 (type)

3. 哪些索引被实际使用 (key)

4. 表之间的引用 (ref)

5. 每张表有多少行被优化器查询 (rows)

性能下降的原因

从程序员的角度

1. 查询语句写的不好

2. 没建索引,索引建的不合理或索引失效

3. 关联查询有太多的 join

从服务器的角度

1. 服务器磁盘空间不足

2. 服务器调优配置参数设置不合理

3、案例分析:

场景:订单管理页面,通过订单级别和订单录入时间排序

业务逻辑:优先处理订单级别高,录入时间长的订单。

既然是排序,首先想到的应该是 order by, 还有一个可怕的 Using filesort 等着你。

最基础的 sql 语句

possible_keys

1. 显示查询语句可能用到的索引 (一个或多个或为 null),不一定被查询实际使用。仅供参考使用。

key

1. 显示查询语句实际使用的索引。若为 null,则表示没有使用索引。

key_len

1. 显示索引中使用的字节数,可通过 key_len 计算查询中使用的索引长度。在不损失精确性的情况下索引长度越短越好。key_len 显示的值为索引字段的最可能长度,并非实际使用长度,即 key_len 是根据表定义计算而得,并不是通过表内检索出的。

ref

1. 显示索引的哪一列或常量被用于查找索引列上的值。

rows

1. 根据表统计信息及索引选用情况,大致估算出找到所需的记录所需要读取的行数,值越大越不好。

extra

1. Using filesort: 说明 MySQL 会对数据使用一个外部的索引排序,而不是按照表内的索引顺序进行读取。MySQL 中无法利用索引完成的排序操作称为 “文件排序” 。出现这个就要立刻优化 sql。

2. Using temporary: 使用了临时表保存中间结果,MySQL 在对查询结果排序时使用临时表。常见于排序 order by 和 分组查询 group by。 出现这个更要立刻优化 sql。

3. Using index: 表示相应的 select 操作中使用了覆盖索引(Covering index),避免访问了表的数据行,效果不错!如果同时出现 Using where,表明索引被用来执行索引键值的查找。如果没有同时出现 Using where,表示索引用来读取数据而非执行查找动作。

4. 覆盖索引(Covering Index) :也叫索引覆盖,就是 select 的数据列只用从索引中就能够取得,不必读取数据行,MySQL 可以利用索引返回 select 列表中的字段,而不必根据索引再次读取数据文件。

5. Using index condition: 在 5.6 版本后加入的新特性,优化器会在索引存在的情况下,通过符合 RANGE 范围的条数 和 总数的比例来选择是使用索引还是进行全表遍历。

6. Using where: 表明使用了 where 过滤。

7. Using join buffer: 表明使用了连接缓存。

8. impossible where: where 语句的值总是 false,不可用,不能用来获取任何元素。

9. distinct: 优化 distinct 操作,在找到第一匹配的元组后即停止找同样值的动作。

filtered

1. 一个百分比的值,和 rows 列的值一起使用,可以估计出查询执行计划 (QEP) 中的前一个表的结果集,从而确定 join 操作的循环次数。小表驱动大表,减轻连接的次数。

通过 explain 的参数介绍,我们可以得知:

1. 表的读取顺序 (id)

2. 数据读取操作的操作类型 (type)

3. 哪些索引被实际使用 (key)

4. 表之间的引用 (ref)

5. 每张表有多少行被优化器查询 (rows)

性能下降的原因

从程序员的角度

1. 查询语句写的不好

2. 没建索引,索引建的不合理或索引失效

3. 关联查询有太多的 join

从服务器的角度

1. 服务器磁盘空间不足

2. 服务器调优配置参数设置不合理

3、案例分析:

场景:订单管理页面,通过订单级别和订单录入时间排序

业务逻辑:优先处理订单级别高,录入时间长的订单。

既然是排序,首先想到的应该是 order by, 还有一个可怕的 Using filesort 等着你。

最基础的 sql 语句

Mysql索引与Explain结合优化SQL

首先,采用全表扫描就不合理,还使用了文件排序 Using filesort,更加拖慢了性能。

MySQL 在 4.1 版本之前文件排序是采用双路排序的算法,由于两次扫描磁盘,I/O 耗时太长。后优化成单路排序算法。其本质就是用空间换时间,但如果数据量太大,buffer 的空间不足,会导致多次 I/O 的情况。其效果反而更差。与其找运维同事修改 MySQL 配置,还不如自己乖乖地建索引。

初步优化:为 order_level, input_date 创建复合索引

Mysql索引与Explain结合优化SQL

创建复合索引后你会惊奇的发现,和没创建索引一样???都是全表扫描,都用到了文件排序。是索引失效?还是索引创建失败?我们试着看看下面打印情况

Mysql索引与Explain结合优化SQL

Mysql索引与Explain结合优化SQL

4、总结

1. 索引是排好序且快速查找的数据结构。其目的是为了提高查询的效率。

2. 创建索引后,查询数据变快,但更新数据变慢。

3. 性能下降的原因很可能是索引失效导致。

4. 索引创建的原则,经常查询的字段适合创建索引,频繁需要更新的数据不适合创建索引。

5. 索引字段频繁更新,或者表数据物理删除容易造成索引失效。

6. 擅用 explain 分析 sql 语句

7. 除了优化 sql 语句外,还可以优化表的设计。如尽量做成单表查询,减少表之间的关联。设计归档表等。

文章摘录于:https://mp.weixin.qq.com/s?__biz=MjM5OTkxOTc0Mw==&mid=2650232797&idx=1&sn=639c2b114c66b8043cd0d0f30fdd983c&chksm=bf37decd884057dbf7dbe69c70012f5a15bad9e07058cbeaa0cf895c1ce041ada428757f668c&mpshare=1&scene=23&srcid=07176qeJCND0twpd6Rary3t6#rd


分享到:


相關文章: