数据库性能测试!MySQL调优「案例详解」

数据库性能测试!MySQL调优「案例详解」

文末领取【MySQL测试题+答案】

性能调优前提:无监控不调优

01

Mysql性能指标及问题分析和定位

1.我们在监控图表中关注的性能指标

CPU、内存、连接数、io读写时间、io操作时间、慢查询、系统平均负载以及memoryOver。

2.Grafana模板中各性能指标的意思

  • Mysql数据库的连接数


数据库性能测试!MySQL调优「案例详解」
  • 图标表示了慢查询


数据库性能测试!MySQL调优「案例详解」
  • Mysql数据库的缓存区,展示了最大缓存以及已使用缓存等数据


数据库性能测试!MySQL调优「案例详解」

3.性能分析

一般在产生Mysql瓶颈的时候往往伴随着的是CPU使用率急速上升,需要top看一下是哪个线程占据了大量的CPU资源,如果发现Mysql进程占用较高,那么基本可以判断是Mysql数据库出现了问题。

接下来就是对问题具体的分析和定位

对于数据库的操作基本上就是大量的查询,会导致数据库出现性能问题。对有问题的场景使用Jmeter模拟场景进行并发,并观察Grafana的图表。

Mysql的几个问题基本上就是:

  • 缓存区较小,大量查询导致了缓存区溢出,使用io进行读写,众所周知,io的读写速度远远比内存读写速度要慢得多。

  • sql语句问题,导致mysql数据库出现瓶颈的查询语句类型很多,最后会给大家列举一些。


那么怎么定位到这些问题呢?

(1)在负载测试中,通过Grafana图表观察Memory Over这个图表,如果发现占用基本占满所分配给Mysql数据库缓存区的内存,然后IO读写时间非常长,读写频率非常高,那基本上是可以判断是缓存区较小导致的问题。(这个问题已经很少出现了)

(2)判断慢查询:在mysql数据库的配置文件中找到

<code>

log_output

=file,table /<code><code>/<code><code>/<code><code>/<code>

重启Mysql数据库:在Grafana图表中如果看到慢查询的时间超过1s时,基本判断为存在慢查询。

登入数据库运行命令

<code>

select

*

from

mysql.slow_log;/<code>

运行完这条命令后,可以查看到所有超过1s的查询语句,这个时候复制这条语句到查询输入框中,选中右键点击解释。

  • type列,连接类型。一个好的sql语句至少要达到range级别。杜绝出现all级别

  • key列,使用到的索引名。如果没有选择索引,值是。可以采取强制索引方式

  • key_len列,索引长度

  • rows列,扫描行数。该值是个预估值

  • extra列,详细说明。注意常见的不太友好的值有:Using filesort, Using temporary

02 sql语句调优

1.SQL语句中IN包含的值不应过多

MySQL对于IN做了相应的优化,即将IN中的常量全部存储在一个数组里面,而且这个数组是排好序的。但是如果数值较多,产生的消耗也是比较大的。再例如:select id from t where num in(1,2,3) 对于连续的数值,能用between就不要用in了;再或者使用连接来替换。

2.SELECT语句务必指明字段名称

SELECT *增加很多不必要的消耗(cpu、io、内存、网络带宽);增加了使用覆盖索引的可能性;当表结构发生改变时,前断也需要更新。所以要求直接在select后面接上字段名。

3.当只需要一条数据的时候,使用limit 1

这是为了使EXPLAIN中type列达到const类型。

4.如果排序字段没有用到索引,就尽量少排序

5.如果限制条件中其他字段没有索引,尽量少用or

or两边的字段中,如果有一个不是索引字段,而其他条件也不是索引字段,会造成该查询不走索引的情况。很多时候使用union all 或者是union(必要的时候)的方式来代替“or”会得到更好的效果。

6.区分in和exists,not in和not exists

select * from 表A where id in (select id from 表B)上面sql语句相当于select*from 表A where exists(select*from 表B where表B.id=表A.id)

区分in和exists主要是造成了驱动顺序的改变(这是性能变化的关键),如果是exists,那么以外层表为驱动表,先被访问,如果是IN,那么先执行子查询。所以IN适合于外表大而内表小的情况;EXISTS适合于外表小而内表大的情况

关于not in和not exists,推荐使用not exists,不仅仅是效率问题,not in可能存在逻辑问题。如何高效的写出一个替代not exists的sql语句?

原sql语句

<code> 

select

colname …

from

A表

where

a.

id not

in

(

select

b.id

from

B表

)

/<code>

高效的sql语句

<code>

select

colname …

from

A表

Left

join

B表

on

where

a.id = b.id

where

b.id

is

/<code>

7.分段查询

在一些用户选择页面中,可能一些用户选择的时间范围过大,造成查询缓慢。主要的原因是扫描行数过多。这个时候可以通过程序,分段进行查询,循环遍历,将结果合并处理进行展示。

8.避免在 where 子句中对字段进行 值判断

对于的判断会导致引擎放弃使用索引而进行全表扫描。

9.不建议使用%前缀模糊查询

例如LIKE“%name”或者LIKE“%name%”,这种查询会导致索引失效而进行全表扫描。但是可以使用LIKE“name%”。

10.注意范围查询语句

对于联合索引来说,如果存在范围查询,比如between,>,

  • type 访问类型


  • ALL 扫描全表数据


  • index 遍历索引


  • range 索引范围查找


  • index_subquery 在子查询中使用 ref


  • unique_subquery 在子查询中使用 eq_ref


  • ref_or_ 对进行索引的优化的 ref


  • fulltext 使用全文索引


  • ref 使用非唯一索引查找数据


  • eq_ref 在join查询中使用PRIMARY KEYorUNIQUE NOT 索引关联。


  • const 使用主键或者唯一索引,且匹配的结果只有一条记录。


  • system const 连接类型的特例,查询的表为系统表。

性能从好到差依次为:

system,const,eq_ref,ref,fulltext,ref_or_,unique_subquery,index_subquery,range,index_merge,index,ALL。(除了ALL之外,其他的type都可以使用到索引,除了index_merge之外,其他的type只可以用到一个索引。)

所以,如果通过执行计划发现某张表的查询语句的type显示为ALL,那就要考虑添加索引,或者更换查询方式使用索引进行查询

  • possible_keys

可能使用的索引,注意不一定会使用。查询涉及到的字段上若存在索引,则该索引将被列出来。当该列为 时就要考虑当前的SQL是否需要优化了。

  • key

显示MySQL在查询中实际使用的索引,若没有使用索引,显示为。TIPS:查询中若使用了覆盖索引(覆盖索引:索引的数据覆盖了需要查询的所有数据),则该索引仅出现在key列表中。

03

SQL优化建议

1.SQL语句不要写的太复杂,要尽量简单,不要嵌套太多层。

2.使用like的时候要注意是否会导致全表扫。

3.尽量避免使用!=或<>操作符:在where语句中使用!=或<>,引擎将放弃使用索引而进行全表扫描。

4.尽量避免使用 or 来连接条件:在 where子句中使用or来连接条件,引擎将放弃使用索引而进行全表扫描。

5.尽量避免使用in和not in:在where子句中使用in和not in,引擎将放弃使用索引而进行全表扫描。

6.尽量避免使用表达式、函数等操作作为查询条件。

7.尽量避免大事务操作,提高系统并发能力。

8.任何地方都不要使用select*from t,用具体的字段列表代替“*”,不要返回用不到的任何字段。

9.尽量使用数字型字段,若只含数值信息的字段尽量不要设计为字符型,这会降低查询和连接的性能,并会增加存储开销。

10.索引并不是越多越好,索引固然可以提高相应的select的效率,但同时也降低insert及update的效率。

11.并不是所有索引对查询都有效,SQL是根据表中数据来进行查询优化的,当索引列有大量数据重复时,SQL查询可能不会去利用索引。

End.

作者:白加黑呀

来源:博客园

本文为转载分享,如有侵权请联系后台删除。

长按下方海报领取 【MySQL测试题+答案】

8个SQL常被忽视的错误用法,你踩过坑吗?

疫情时期,互联网人如何选择行业?猎聘给出了这些方向

10个常用数据分析思路,看看是否有你没用过的?

Python实战|5步实现客户细分

数据库性能测试!MySQL调优「案例详解」数据库性能测试!MySQL调优「案例详解」


分享到:


相關文章: