MySQL监控-Datadog数据库监控调研

阿里云官方镜像站：MySQ镜像源

https://developer.aliyun.com/mirror/?utm_content=g_1000303593

前言

MySQL是最流行的数据库之一，在大多系统的后端的存储都有MySQL的身影，MySQL运行的是否健康，直接影响着整个系统的运行，数据库的瓶颈往往也是整个系统的瓶颈，其重要性不言而喻，所以对于MySQL的监控必不可少，及时发现MySQL运行中的异常，可以有效提高系统的可用性和用户体验。
本文主要介绍下MySQL如何做监控，以及对Datadog的Database Monitoring的一些简单调研。

监控类型

Google提出在系统监控中的黄金指标，分别是Latency，Traffic，Saturation，Errors，MySQL一般作为资源类服务系统出现，在MySQL监控中也可以以这些指标为指引来进行指标收集和监控。

黄金指标

• Latency延迟：比如MySQL中的查询的延迟，一条Select语句的延迟可能会直接影响用户体验，监控SQL语句的平均延迟，P99延迟可以提早发现对系统的影响。

• Traffic：在MySQL中，查询的QPS是吞吐量的一种指标，比如MySQL服务器每秒可以支持多少查询，多少更新，吞吐量的指标也会影响到用户体验。

• Saturation饱和度：饱和度是指系统的资源被消耗殆尽的程度，比如在MySQL最大连接数为300，当前连接数已经达到240的情况可能需要引起注意，因为可能在不久的将来会将连接数打满，导致新的连接进不来，影响上层服务的可用性。

• Errors错误：MySQL中的Aborted_clients和Aborted_connects的增加往往意味了使用方在使用的时候出现了一些错误，需要引起注意，比如客户端在退出时没有调用mysql_close会导致Aborted_clients指标的增加，所以监控这个指标对于问题的排查很有帮助。

  MySQL关键指标类型

  黄金指标对于指标的监控有很大的指导意义，但是选取哪些指标，也是值得考量的，这里借用Datadog的一篇MySQL监控文章来描述MySQL监控中的关键指标。从性能和资源使用角度大致分为4类：

• Query throuput：查询吞吐量，主要包括查询的QPS和更新QPS，用来表示延迟。

• Query performance: 查询性能，主要包括查询的消耗的平均时间，查询错误指标，慢查询数量，分别包含吞吐量和错误。

• Connections: 连接，主要包括当前打开连接数和运行连接数表示饱和度。错误连接数用来表示错误。

• Buffer pool usage: 缓冲池使用情况，innodb_buffer_pool_reads表示InnoDB缓冲池无法满足的请求数，计算出的缓冲池中的页面使用数量使用率可以用表示资源的饱和度。

MySQL监控流程

MySQL的监控跟其他系统的监控类似，一般会包含指标日志类的数据收集，指标的可视化展示，指标告警，问题的排查等流程。

指标收集

MySQL的指标类型有很多，可以通过两种方式获取

• 服务内部状态/内部变量：一般通过show status或者show variable来获取，表示全局的一些指标。

• peformance shema和sys schema，提供了更加底层的运行时的详细的指标信息。

可视化展示

通过Agent将指标数据采集到后端存储中，然后进行可视化展示，可视化仪表盘会将指标的历史值和当前值绘制成曲线，便于查看指标的变化，指标如果有明显的变化，从图表中可以明显的看出来，对于排查问题有一定的参考意义。

指标异常告警

在某个指标出现异常时，可以配置相应的告警，告警监控可以使用阈值设定或者AI算法来自动识别指标的异常，产生的告警可以分不同的严重等级，不同的等级可以配置不同的通知渠道，比如严重度低的发邮件提醒既可以，对于高严重度的指标异常，配置电话通知。
通过仪表盘或者告警，可以找到哪个指标出现了异常，然后根据不同的指标进行不同的排查方式，比如连接数超过最大连接数报警，可以调大数据库的最大连接数或者减少客户端的连接数。对于更复杂的场景，可能需要借助问题发生时其他的日志或者指标进行根因分析。

接下来以Datadog的数据库监控为例，来调研Datadog是如何做数据库监控的，文中图片来自Datadog官网。

Datadog 数据库监控

指标采集

Agent端采集

Datadog的指标采集是通过安装Agent来采集，Agent可以部署在自建机器或者云服务器上，可以连接到服务器即可。

指标数据

通过安装Datadog Agent到数据库所在服务器或者能连接到数据的服务器上，然后创建一个datadog用户，并且给datadog赋予一定的权限如REPLICATION CLIENT，PROCESS和SELECT ON performance_schema.*的权限。Datadog为了收集explain plan还会创建几个存储过程explain_statement，enable_events_statements_consumers。

日志数据

Datadog Agent支持采集MySQL服务器端General日志、错误日志、慢日志等，当然前提是MySQL服务端开启这些日志存储。

仪表盘

总体指标

MySQL总览，主要展示了收集的MySQL指标的整体态势。

Query Metrics

主要用来展示标准化查询（normalized query）的历史性能指标，可以按照查询数，平均延迟，消耗总时间，返回行数进行排序。

同时也可以根据标签或聚合维度来展示消耗了最多查询时间的Top查询和延迟。根据不同的维度来分组展示每个组的查询数，平均延迟，消耗总时间。

Query Details

在Query Metrics页面搜索特定的query，可以查看其Query Detail页面，在其中可以查看语句的平均延迟和查询总时间，同时页面还会展示查询关联的Datadog中标签，

查询页面除了延迟和消耗时间等，还会展示执行计划，时序和执行这条查询的主机分布。

• 执行计划页面，会展示不同的执行计划及其延迟和平均消耗。

• 性能指标页面，展示了一些常见指标的性能历史。

• 执行查询的主机分布页面，会展示执行当前查询的主机分布，通过菜单可以链接到主机的相关页面，这对于排查问题比较方便，比如某个主机上的查询延迟非常高，可以直接跳转到改主机的相关仪表盘页面进行查看。

Query Samples

主要包含采样查询的性能数据，延迟，消耗和执行计划，同时也支持按照Table来展示Top消耗的查询语句。

告警

Datadog提供了对于指标的监控告警，主要支持五种监控类型，包括：

• Thresold Alert：阈值监控。

• Change Alert: 事件变更监控。

• Anomaly Dectection：异常检测，使用机器学习算法来判断指标的异常。

• Outlier Alert：离群点检测告警。

• Forecast Alert：预测告警。

总结

本文首先介绍了数据库监控的关键指标和MySQL监控的一般流程主要包括指标收集，可视化展示，指标异常告警。然后通过对Datadog的数据库监控产品做介绍，除了常规的总体指标展示，Datadog的数据库监控还提供了Query相关的指标，分别包括Query Metrics，Query Detail和Query Samples，从查询的角度进行监控和分析统计，除了Query级别的指标展示，还包括对执行计划的展示，同时也支持从仪表盘Drill down到主机级别查看资源指标，通过这些仪表盘可以比较方便的看出指标的异常。

本文转自：https://developer.aliyun.com/article/809609