MySQL优化器参数derived_merge导致多表关联SQL性能及其低下

    最近,MySQL维护中,遇到一个问题,通条SQL语句,在mysql 5.6的测试环境中执行速度不到1秒,但是在

创新互联长期为成百上千家客户提供的网站建设服务,团队从业经验10年,关注不同地域、不同群体,并针对不同对象提供差异化的产品和服务;打造开放共赢平台,与合作伙伴共同营造健康的互联网生态环境。为禄丰企业提供专业的成都网站制作、网站建设,禄丰网站改版等技术服务。拥有十余年丰富建站经验和众多成功案例,为您定制开发。

mysql 5.7生产环境中执行却要近5分钟,mysql 5.7中同样的数据库同样的数据量,更新完表的统计信息后执行

速度还是要2分钟。本次问题的处理与sql语句本身没有关系,只跟mysql数据库自身的优化器参数相关,下面是

问题的分析排查过程,问题分析中的sql语句不需要显示,可以明确sql是多表join连接并且业务不允许更改。

    1、首先,查看测试环境和生产环境中,mysql的sql语句的执行计划

--测试环境,执行计划只需显示局部能说明问题即可

MySQL 优化器参数derived_merge导致多表关联SQL性能及其低下

--生产环境,执行计划只需显示局部能说明问题即可

MySQL 优化器参数derived_merge导致多表关联SQL性能及其低下

    2、从测试与生产环境sql语句的对比可以明显发现,sql的执行计划不一致,后续排查中发现

a、测试环境中sql涉及的表和索引的统计信息都是当天最新的,而生产环境中的相关表和索引的统计信息比较陈旧

b、测试环境 mysql大版本为5.6,生产环境mysql大版本为5.7

    3、问题处理

a、由于sql执行计划不一致,且生产环境统计信息比较旧,重新收集生产环境表的统计信息,收集后sql的执行速度没有

提高,相比测试依然很慢。

b、关注测试环境执行计划derived和,该特性与mysql 的参数derived_merge相关,查看该参数的设置情况

--测试环境

MySQL [(none)]> show global variables like '%switch%';

+------------------+--------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+

| Variable_name    | Value                                                                                                                                                                                                                                                                                                                                            |

+------------------+--------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+

| optimizer_switch | index_merge=on,index_merge_union=on,index_merge_sort_union=on,index_merge_intersection=on,....... |

+------------------+--------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+

1 row in set (0.00 sec)

MySQL [(none)]> 

--生产环境,为了方便说明问题,省略了多余的参数显示

mysql> show  variables like '%switch%';

+------------------+-------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+

| Variable_name    | Value                                                                                                                                                                                                                                                                                                                                                                                                             |

+------------------+-------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+

| optimizer_switch | ......, derived_merge=on |

+------------------+-------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+

1 row in set (0.00 sec)

mysql>

c、根据官方说明参数derived_merge是在mysql5.7版本中引入的,作用就是对join (select)表连接合并,本次问题sql有

大量的join (select),导致sql执行结果集合并,sql执行速度及其缓慢。

d、通过session级别临时取消该参数,观察sql执行计划,发现sql执行计划正常,且sql执行速度不到1秒与测试环境相近

--取消优化器derived_merge参数

mysql> set optimizer_switch="derived_merge=off";

ERROR 2006 (HY000): MySQL server has gone away

No connection. Trying to reconnect...

Connection id:    8980

Current database: mysql

Query OK, 0 rows affected (0.02 sec)

mysql> 

--观察问题sql执行计划,此时生产环境执行计划与测试环境相同

MySQL 优化器参数derived_merge导致多表关联SQL性能及其低下

--问题sql执行速度由原先的近5分钟到现在的1秒左右

MySQL 优化器参数derived_merge导致多表关联SQL性能及其低下


本文名称:MySQL优化器参数derived_merge导致多表关联SQL性能及其低下
本文来源:http://myzitong.com/article/pdpeic.html