电子发烧友App
阿里云官方镜像站：MySQ镜像源
https://developer.aliyun.com/mirror/?utm_content=g_1000303593
前言
MySQL是最流行的数据库之一，在大多系统的后端的存储都有MySQL的身影，MySQL运行的是否健康，直接影响着整个系统的运行，数据库的瓶颈往往也是整个系统的瓶颈，其重要性不言而喻，所以对于MySQL的监控必不可少，及时发现MySQL运行中的异常，可以有效提高系统的可用性和用户体验。
本文主要介绍下MySQL如何做监控，以及对Datadog的Database Monitoring的一些简单调研。
监控类型
Google提出在系统监控中的黄金指标，分别是Latency，Traffic，Saturation，Errors，MySQL一般作为资源类服务系统出现，在MySQL监控中也可以以这些指标为指引来进行指标收集和监控。
黄金指标
Latency延迟：比如MySQL中的查询的延迟，一条Select语句的延迟可能会直接影响用户体验，监控SQL语句的平均延迟，P99延迟可以提早发现对系统的影响。
Traffic：在MySQL中，查询的QPS是吞吐量的一种指标，比如MySQL服务器每秒可以支持多少查询，多少更新，吞吐量的指标也会影响到用户体验。
Saturation饱和度：饱和度是指系统的资源被消耗殆尽的程度，比如在MySQL最大连接数为300，当前连接数已经达到240的情况可能需要引起注意，因为可能在不久的将来会将连接数打满，导致新的连接进不来，影响上层服务的可用性。
Errors错误：MySQL中的Aborted_clients和Aborted_connects的增加往往意味了使用方在使用的时候出现了一些错误，需要引起注意，比如客户端在退出时没有调用mysql_close会导致Aborted_clients指标的增加，所以监控这个指标对于问题的排查很有帮助。
MySQL关键指标类型
黄金指标对于指标的监控有很大的指导意义，但是选取哪些指标，也是值得考量的，这里借用Datadog的一篇MySQL监控文章来描述MySQL监控中的关键指标。从性能和资源使用角度大致分为4类：
Query throuput：查询吞吐量，主要包括查询的QPS和更新QPS，用来表示延迟。
Query performance: 查询性能，主要包括查询的消耗的平均时间，查询错误指标，慢查询数量，分别包含吞吐量和错误。
Connections: 连接，主要包括当前打开连接数和运行连接数表示饱和度。错误连接数用来表示错误。
Buffer pool usage: 缓冲池使用情况，innodb_buffer_pool_reads表示InnoDB缓冲池无法满足的请求数，计算出的缓冲池中的页面使用数量使用率可以用表示资源的饱和度。
MySQL监控流程
MySQL的监控跟其他系统的监控类似，一般会包含指标日志类的数据收集，指标的可视化展示，指标告警，问题的排查等流程。
指标收集
MySQL的指标类型有很多，可以通过两种方式获取
服务内部状态/内部变量：一般通过show status或者show variable来获取，表示全局的一些指标。
peformance shema和sys schema，提供了更加底层的运行时的详细的指标信息。
可视化展示
通过Agent将指标数据采集到后端存储中，然后进行可视化展示，可视化仪表盘会将指标的历史值和当前值绘制成曲线，便于查看指标的变化，指标如果有明显的变化，从图表中可以明显的看出来，对于排查问题有一定的参考意义。
指标异常告警
在某个指标出现异常时，可以配置相应的告警，告警监控可以使用阈值设定或者AI算法来自动识别指标的异常，产生的告警可以分不同的严重等级，不同的等级可以配置不同的通知渠道，比如严重度低的发邮件提醒既可以，对于高严重度的指标异常，配置电话通知。
通过仪表盘或者告警，可以找到哪个指标出现了异常，然后根据不同的指标进行不同的排查方式，比如连接数超过最大连接数报警，可以调大数据库的最大连接数或者减少客户端的连接数。对于更复杂的场景，可能需要借助问题发生时其他的日志或者指标进行根因分析。
接下来以Datadog的数据库监控为例，来调研Datadog是如何做数据库监控的，文中图片来自Datadog官网。
Datadog 数据库监控
指标采集
Agent端采集
Datadog的指标采集是通过安装Agent来采集，Agent可以部署在自建机器或者云服务器上，可以连接到服务器即可。
指标数据
通过安装Datadog Agent到数据库所在服务器或者能连接到数据的服务器上，然后创建一个datadog用户，并且给datadog赋予一定的权限如REPLICATION CLIENT，PROCESS和SELECT ON performance_schema.*的权限。Datadog为了收集explain plan还会创建几个存储过程explain_statement，enable_events_statements_consumers。
日志数据
Datadog Agent支持采集MySQL服务器端General日志、错误日志、慢日志等，当然前提是MySQL服务端开启这些日志存储。
仪表盘
总体指标
MySQL总览，主要展示了收集的MySQL指标的整体态势。
Query Metrics
主要用来展示标准化查询（normalized query）的历史性能指标，可以按照查询数，平均延迟，消耗总时间，返回行数进行排序。
同时也可以根据标签或聚合维度来展示消耗了最多查询时间的Top查询和延迟。根据不同的维度来分组展示每个组的查询数，平均延迟，消耗总时间。
Query Details
在Query Metrics页面搜索特定的query，可以查看其Query Detail页面，在其中可以查看语句的平均延迟和查询总时间，同时页面还会展示查询关联的Datadog中标签，
查询页面除了延迟和消耗时间等，还会展示执行计划，时序和执行这条查询的主机分布。
执行计划页面，会展示不同的执行计划及其延迟和平均消耗。
性能指标页面，展示了一些常见指标的性能历史。
执行查询的主机分布页面，会展示执行当前查询的主机分布，通过菜单可以链接到主机的相关页面，这对于排查问题比较方便，比如某个主机上的查询延迟非常高，可以直接跳转到改主机的相关仪表盘页面进行查看。
Query Samples
主要包含采样查询的性能数据，延迟，消耗和执行计划，同时也支持按照Table来展示Top消耗的查询语句。
告警
Datadog提供了对于指标的监控告警，主要支持五种监控类型，包括：
Thresold Alert：阈值监控。
Change Alert: 事件变更监控。
Anomaly Dectection：异常检测，使用机器学习算法来判断指标的异常。
Outlier Alert：离群点检测告警。
Forecast Alert：预测告警。
总结
本文首先介绍了数据库监控的关键指标和MySQL监控的一般流程主要包括指标收集，可视化展示，指标异常告警。然后通过对Datadog的数据库监控产品做介绍，除了常规的总体指标展示，Datadog的数据库监控还提供了Query相关的指标，分别包括Query Metrics，Query Detail和Query Samples，从查询的角度进行监控和分析统计，除了Query级别的指标展示，还包括对执行计划的展示，同时也支持从仪表盘Drill down到主机级别查看资源指标，通过这些仪表盘可以比较方便的看出指标的异常。
本文转自：https://developer.aliyun.com/article/809609
ymf
工商网监
评论