MySQL的一条慢SQL查询导致整个网站宕机的解决方法

直接切入正题吧:

通常来说，我们看到的慢查询一般还不致于导致挂站，顶多就是应用响应变慢
不过这个恰好今天被我撞见了，一个慢查询把整个网站搞挂了
先看看这个sql张撒样子：

# query_time: 70.472013 lock_time: 0.000078 rows_sent: 7915203 rows_examined: 15984089 rows_affected: 0
# bytes_sent: 1258414478
use js_sku;
set timestamp=1465850117;
select 
ss_id, ss_sa_id, ss_si_id, ss_av_zid, ss_av_fid, ss_artno,
ss_av_zvalue, ss_av_fvalue, ss_av_zpic, ss_av_fpic, ss_number,
ss_sales, ss_cprice, ss_price, ss_stock, ss_orderid, ss_status,
ss_add_time, ss_lastmodify
from js_sgoods_sku
where ss_si_id = 0 and ss_status > 0
order by
ss_orderid desc, ss_av_fid asc;
这里贴出来的就是 mysql slow log 的信息，查询时间用了高达 70s！！
看到慢查询我们一般第一反应是这个 语句没有用到索引？ 或者是索引不合理么？ 那我们会去看看执行计划：

mysql> explain select 
-> ss_id, ss_sa_id, ss_si_id, ss_av_zid, ss_av_fid, ss_artno,
-> ss_av_zvalue, ss_av_fvalue, ss_av_zpic, ss_av_fpic, ss_number,
-> ss_sales, ss_cprice, ss_price, ss_stock, ss_orderid, ss_status,
-> ss_add_time, ss_lastmodify
-> from js_sgoods_sku
-> where ss_si_id = 0 and ss_status > 0
-> order by
-> ss_orderid desc, ss_av_fid asc;
+----+-------------+---------------+------+---------------+----------+---------+-------+---------+-----------------------------+
| id | select_type | table | type | possible_keys | key | key_len | ref | rows | extra |
+----+-------------+---------------+------+---------------+----------+---------+-------+---------+-----------------------------+
| 1 | simple | js_sgoods_sku | ref | ss_si_id | ss_si_id | 4 | const | 9516091 | using where; using filesort |
+----+-------------+---------------+------+---------------+----------+---------+-------+---------+-----------------------------+
1 row in set (0.00 sec)

这个看起来似乎用到了索引，可是为什么扫描到行还是这么多呢？ 那我们就去看看表结构了，期望能从中找到点有价值的东西：
我们看到如下可用信息：
key `ss_si_id` (`ss_si_id`,`ss_av_zid`,`ss_av_fid`) using btree,
`ss_si_id` int(11) unsigned not null default '0' comment '对应js_sgoods_info.si_id',

我们看到 索引似乎还能比较能够接受，但是我们看到 这个 ss_si_id 这个字段实际上是 goods_info 表的主键，也就是说它的离散程度应该是很大的，也就是区分度很大。
其实到这一步我们基本上可以认为 是由于我们这个表里边有很多 ss_si_id=0 导致，不过我们可以进一步的来证实我们的猜想：

1. 首先我们可以先确定我们的统计信息没有问题
2. 其次我们再count ss_si_id=0 的这个值有多少数据，来进一步验证我们的猜想。

那么我们先查看以下这个索引的统计信息：
xiean@localhost:js_sku 03:27:42>show index from js_sgoods_sku;
+---------------+------------+----------+--------------+-------------+-----------+-------------+----------+--------+------+------------+---------+---------------+
| table | non_unique | key_name | seq_in_index | column_name | collation | cardinality | sub_part | packed | null | index_type | comment | index_comment |
+---------------+------------+----------+--------------+-------------+-----------+-------------+----------+--------+------+------------+---------+---------------+
| js_sgoods_sku | 0 | primary | 1 | ss_id      | a | 18115773 | null | null | | btree | | |
| js_sgoods_sku | 1 | ss_si_id | 1 | ss_si_id   | a  | 1811577  | null | null | | btree | | |
| js_sgoods_sku | 1 | ss_si_id | 2 | ss_av_zid | a | 6038591  | null | null | | btree | | |
| js_sgoods_sku | 1 | ss_si_id | 3 | ss_av_fid | a | 18115773 | null | null | | btree | | |
| js_sgoods_sku | 1 | idx_001 | 1 | ss_sa_id | a | 3623154   | null | null | | btree | | |
+---------------+------------+----------+--------------+-------------+-----------+-------------+----------+--------+------+------------+---------+---------------+

那么可以看到以下问题：
我们的ss_si_id 这个字段并没有我们表面上看到的 因为关联了某个表的主键，它的cardinality 值就应该接近于 primary 的值。而是差别比较大的,难道是 索引的统计信息不准确？ 那我们尝试重新收集下索引的统计信息：
xiean@localhost:js_sku 03:27:47>analyze table js_sgoods_sku;
+----------------------+---------+----------+----------+
| table | op | msg_type | msg_text |
+----------------------+---------+----------+----------+
| js_sku.js_sgoods_sku | analyze | status | ok |
+----------------------+---------+----------+----------+

but ，我们再次查看 这些索引的统计信息：
xiean@localhost:js_sku 03:28:14>show index from js_sgoods_sku;
+---------------+------------+----------+--------------+-------------+-----------+-------------+----------+--------+------+------------+---------+---------------+
| table | non_unique | key_name | seq_in_index | column_name | collation | cardinality | sub_part | packed | null | index_type | comment | index_comment |
+---------------+------------+----------+--------------+-------------+-----------+-------------+----------+--------+------+------------+---------+---------------+
| js_sgoods_sku | 0 | primary | 1 | ss_id      | a | 18621349 | null | null | | btree | | |
| js_sgoods_sku | 1 | ss_si_id | 1 | ss_si_id    | a | 1551779  | null | null | | btree | | |
| js_sgoods_sku | 1 | ss_si_id | 2 | ss_av_zid | a | 6207116   | null | null | | btree | | |
| js_sgoods_sku | 1 | ss_si_id | 3 | ss_av_fid | a | 18621349 | null | null | | btree | | |
| js_sgoods_sku | 1 | idx_001 | 1 | ss_sa_id | a | 3724269   | null | null | | btree | | |
+---------------+------------+----------+--------------+-------------+-----------+-------------+----------+--------+------+------------+---------+---------------+

我们可以看到 ss_si_id 的离散程度（cardinality） 没有增加反而有向下波动的趋势，因为这个信息是采集部分页的来的，而每个页上边数据分布是不一样的，导致我们这个索引收集的统计信息就回有所变化。

好吧，到这里我们可以认为我们的 统计信息没有失效，那么我们就看数据的分别情况咯：

+--------------++----------++------------------+
| ss_si_id=0; || count(*) || 7994788/19048617 |
+--------------++----------++------------------+
| 7994788     || 19048617 ||    0.4197           |
+--------------++----------++------------------+

额，不看不知道，一看吓一跳：我们这个表里边 存在有大量的 ss_si_id＝0 的情况，占了整个表数据量的 41% ！！！

好吧问题找到了，那么接下来我们需要知道，为什么这个sql语句会导致挂站呢？

我们通过观看应用程序服务器的监控看到一些信息：我们的 goods_service 这个服务异常：异常情况如下：

1. cpu 长期占用100% ＋ 
2. jstatck pid 无法dump 内存堆栈信息，必须强制dump －f
3. dump 出来的内存信息发现，这个进程里边所有线程 均处于 blocked 状态
4. 通过jstat －gcutil 看到 fgc 相当频繁，10s左右就fgc一次
5. 内存占用超过了分配的内存

那么最终的原因就是因为上边的慢查询 查询了大量数据（最多有700w行数据），导致goods_service 内存暴涨，出现服务无法响应，进一步的恶化就是挂占

ok，知道了为什么会挂占，那么我们是如何解决这个问题的呢？
既然我们知道是由于查询了 ss_si_id＝0 导致的，那么我们屏蔽掉这个sql不就好了么。屏蔽的办法可以有多种：
1. 我们程序逻辑判断一下这类型的 查询 如果 有查询 ss_si_id＝0 的一律封杀掉
2. 我们改改sql配置文件，修改sql语句

我们发现db服务器上存在大量的 这个慢查询，而且db服务器负载已经从 0.xx 飙升到了 50+ 了，随之而来的连接数也飙升的厉害， 如果再不及时处理，估计db服务器也挂掉了

 

那么我们最终采取以下处理办法：
1.运维配合研发修改sql语句 我们在这个where 条件中添加了一个条件： and ss_si_id <> 0 ,在mysql之行计划层屏蔽掉此sql;
2.dba 开启kill 掉这个查询语句，避免db服务器出现down机的情况，当然这个就用到了我们的 pt-kill 工具，不得不说这个工具相当好用

总结（经验与教训）：
1.类似这种查询 default 值的 sql ，我们应该从源头上杜绝这类查询
2.限制查询结果集大小，避免因查询结果集太大导致服务死掉