百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术教程 > 正文

(二十二) 程序员必备: 10秒到0.1秒,亿级数据下MySQL慢查询分析教程

csdh11 2025-03-30 15:44 26 浏览

我们在日常使用和面试中,经常遇见sql优化的问题,今天阳仔就带大家详细介绍一下mysql的优化向的知识和相关技巧;

一.哪些场景会出现慢查询?

主要体现就是查询sql 时间比较长,接口相应时间长,导致页面加载也比较慢,那么哪些情况会出现慢查询了,主要是以下几种情况:

  • 聚合查询
  • 多表查询
  • 表数据量过大查询
  • 深度分页查询

二. 如何定位慢查询了?

方案一: 开源工具(实际用的比价多)

  • 调试工具: Arthas (阿里开源项目,YYDS)

官方定义: Arthas 是一款线上监控诊断产品,通过全局视角实时查看应用 load、内存、gc、线程的状态信息,并能在不修改应用代码的情况下,对业务问题进行诊断,包括查看方法调用的出入参、异常,监测方法执行耗时,类加载信息等,大大提升线上问题排查效率。

主要都是命令行操作为主,官方有中文文档,使用起来比较简单,不懂的可以直接去官方查看文档.

启动界面

面板信息

如何通过Arthas 来分析慢查询了?

使用trace命令


原理就是追踪线程中具体方法的响应时间来确认慢查询,Arthas 会给出具体的追踪分析数据,可以看到具体的调用次数,总耗时,平均耗时等信息.

官方文档介绍,YYDS 啥都有

  • 运维工具:

Prometheus : (2012 年的google 开源项目,且持续在运营中.)


原理: 通过http协议周期性的抓取被监控的组件的状态

中文文档地址
:https://prometheus.fuckcloudnative.io/di-yi-zhang-jie-shao/overview

系统架构

具有单独的管理界面 也可以命令行操作,也可以接入第三方工具使用.

如何使用Prometheus来定位慢查询?

  1. 需要在mysql中配置慢查询的日志

2,在Prometheus中安装mysql exporter 插件并配置

  1. 配置Prometheus

  1. 可视化查看慢mysql的慢查询结构 ,需要安装Grafana ,配置上Prometheus 的数据源即可

Skywalking (笔者之前就是用的这个,单体应用和微服务都可以用)

分布式系统,最合适使用的应用程序性能监控工具,提供分布式追踪、服务网格遥测分析、度量聚合和可视化一体化解决方案。

整体架构

中文文档地址
:https://skywalking.apache.org/zh/2020-04-19-skywalking-quick-start/#

可视化界面

可以直接看到接口的执行时间,非常方便

还可以直接追踪具体的sql ,功能非常强大 ,使用也很简单

方案二: mysql 自带的慢日志查询 (只在测试环境中使用,生产环境不使用,有性能问题)

配置完毕之后,通过以下指令重新启动MySQL服务器进行测试,查看慢日志文件中记录的信息
/var/lib/mysql/localhost-slow.log。

方案三: 增加系统日志

使用项目自带日志,对关键接口的相应时间 进行系统日志记录,再从代码层面反推具体的sql问题,比较适合业务量还不大的项目.

方案四 : 使用'explain'命令 进行sql 语句的解析

这个是对于比较负责的业务,在写了sql语句后,需要对sql 语句是否变慢做一个校验,主要是定位到慢SQL后的分析工作.可以配置前面的方案一起使用,可以确认以下sql 是否命中索引,是否进行了全表扫描

explain 命令

possible_key: 主要是可能用到的所有

key: 当前已经命中的索引

key_len: 索引占用的内存大小

extra : 优化的建议

type: sql的链接类型 性格: null>system (系统中的表)>const (主键)> eq_ref (主键/唯一索引)> ref (索引)>range(范围) > index (索引树)> all (全盘扫描)

一般type 为index/all 此时sql就需要优化了


哪些场景会出现慢查询? 如何定位慢查询? 如何分析慢查询? 你们的项目中都是怎么来处理了的? 评论区留下你的看法

相关推荐

NUS邵林团队发布DexSinGrasp基于强化学习实现物体分离与抓取统一

本文的作者均来自新加坡国立大学LinSLab。本文的共同第一作者为新加坡国立大学实习生许立昕和博士生刘子轩,主要研究方向为机器人学习和灵巧操纵,其余作者分别为硕士生桂哲玮、实习生郭京翔、江泽宇以及...

「PLC进阶」如何通过编写SCL语言程序实现物料分拣?

01、前言SCL作为IEC61131-3编程语言的一种,由于其高级语言的特性,特别适合复杂运算、复杂数学函数应用的场合。本文以FactoryIO软件中的物料分拣案例作为硬件基础,介绍如何通过SCL来实...

zk源码—5.请求的处理过程一(http1.1请求方法)

大纲1.服务器的请求处理链...

自己动手从0开始实现一个分布式 RPC 框架

前言为什么要自己写一个RPC框架,我觉得从个人成长上说,如果一个程序员能清楚的了解RPC框架所具备的要素,掌握RPC框架中涉及的服务注册发现、负载均衡、序列化协议、RPC通信协议、Socket通信、异...

MLSys’25 | 极低内存消耗:用SGD的内存成本实现AdamW的优化性能

AIxiv专栏是机器之心发布学术、技术内容的栏目。过去数年,机器之心AIxiv专栏接收报道了2000多篇内容,覆盖全球各大高校与企业的顶级实验室,有效促进了学术交流与传播。如果您有优秀的工作想要分享,...

线程池误用导致系统假死(线程池会自动销毁吗)

背景介绍在项目中,为了提高系统性能使用了RxJava实现异步方案,其中异步线程池是自建的。但是当QPS稍微增大之后却发现系统假死、无响应和返回,调用方出现大量超时现象。但是通过监控发现,系统线程数正常...

大型乘用车工厂布局规划(六大乘用车基地)

乘用车工厂的布局规划直接影响生产效率、物流成本、安全性和未来扩展能力。合理的布局应确保生产流程顺畅、物流高效、资源优化,并符合现代化智能制造和绿色工厂的要求。以下是详细的工厂布局规划要点:1.工厂布...

西门子 S7-200 SMART PLC 连接Factory IO的方法

有很多同学不清楚如何西门子200smart如何连接FactoryIO,本教程为您提供了如何使用西门子S7-200SMARTPLC连接FactoryIO的说明。设置PC和PLC之间的...

西门子博图高级仿真软件的应用(西门子博途软件仿真)

1.博图高级仿真软件(S7-PLCSIMAdvancedV2.0)S7-PLCSIMAdvancedV2.0包含大量仿真功能,通过创建虚拟控制器对S7-1500和ET200SP控制器进行仿真...

PLC编程必踩的6大坑——请对号入座,评论区见

一、缺乏整体规划:面条式代码问题实例:某快递分拣线项目初期未做流程图设计,工程师直接开始编写传送带控制程序。后期增加质检模块时发现I/O地址冲突,电机启停逻辑与传感器信号出现3处死循环,导致项目延期2...

统信UOS无需开发者模式安装软件包
统信UOS无需开发者模式安装软件包

原文链接:统信UOS无需开发者模式安装软件包...

2025-05-05 14:55 csdh11

100个Java工具类之76:数据指纹DigestUtils

为了提高数据安全性,保证数据的完整性和真实性,DigestUtils应运而生。正确恰当地使用DigestUtils的加密算法,可以实现数据的脱敏,防止数据泄露或篡改。...

麒麟KYLINIOS软件仓库搭建02-软件仓库添加新的软件包

#秋日生活打卡季#原文链接:...

Java常用工具类技术文档(java中工具类的作用)

一、概述Java工具类(UtilityClasses)是封装了通用功能的静态方法集合,能够简化代码、提高开发效率。本文整理Java原生及常用第三方库(如ApacheCommons、GoogleG...

软路由的用法(自动追剧配置)(软路由教学)

本内容来源于@什么值得买APP,观点仅代表作者本人|作者:值友98958248861环境和需求...