百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术教程 > 正文

MySQL性能调优工具包制作(mysql性能调整)

csdh11 2025-04-01 16:56 31 浏览

一、最终工具包内容

mysql_tuning_toolkit/
├── scripts/                  # 核心脚本
│   ├── sysbench-pro.sh       # 增强版压测工具
│   └── index_advisor.py      # 智能索引分析器
├── configs/                  # 配置模板
│   ├── oltp_config.ini   # OLTP测试配置
│   └── db_cred.conf     # 数据库连接配置
├── reports/                 # 报告输出目录(自动生成)
├── docs/                     # 文档
    └── README.md     # 本文档
└── setup.sh                # 初始化环境

二、工具包制作

步骤 1:创建工具包目录结构

mkdir -p mysql_tuning_toolkit/{scripts,configs,reports,docs}
cd mysql_tuning_toolkit

步骤 2:添加核心文件

  1. 压力测试脚本 (scripts/sysbench-pro.sh)
cat > scripts/sysbench-pro.sh <<'EOF'
#!/bin/bash
# sysbench增强版 v2.3
# 用法:./sysbench-pro.sh 

CONFIG_FILE=${1:-test_config.ini}
RESULT_DIR="/tmp/bench_$(date +%s)"
mkdir -p $RESULT_DIR

DB_HOST=$(awk -F '=' '/^host/{print $2}' $CONFIG_FILE)
THREADS=$(awk -F '=' '/^threads/{print $2}' $CONFIG_FILE)

for mode in oltp_read_write oltp_order_adv oltp_user_reg; do
  sysbench $mode \
    --mysql-host=$DB_HOST \
    --mysql-user=bench \
    --mysql-password=Bench123! \
    --threads=$THREADS \
    --time=300 \
    --report-interval=10 \
    run > $RESULT_DIR/${mode}_result.log
  
  awk '/transactions:/{print $3}' $RESULT_DIR/${mode}_result.log | \
    gnuplot -e "set terminal png; set output '$RESULT_DIR/${mode}_tps.png'" \
    -e "plot '-' with lines title 'TPS'"
done

tar czf sysbench_report.tar.gz $RESULT_DIR
EOF
  1. 索引分析器 (scripts/index_advisor.py)
cat > scripts/index_advisor.py <<'EOF'
#!/usr/bin/env python3
import mysql.connector
import pandas as pd

class IndexAnalyzer:
    def __init__(self, host: str, user: str, password: str):
        self.conn = mysql.connector.connect(
            host=host, user=user, password=password,
            database='information_schema'
        )
    
    def get_redundant_indexes(self):
        query = "SELECT * FROM sys.schema_redundant_indexes"
        return pd.read_sql(query, self.conn).to_dict('records')
    
    def generate_advice(self, redundancies):
        return "\n".join(
            f"ALTER TABLE `{idx['table_schema']}`.`{idx['table_name']}` DROP INDEX `{idx['redundant_index_name']}`;"
            for idx in redundancies
        )

if __name__ == "__main__":
    analyzer = IndexAnalyzer('localhost', 'root', 'password')
    print(analyzer.generate_advice(analyzer.get_redundant_indexes()))
EOF
  1. 使用文档 (docs/README.md)
cat > docs/README.md <<'EOF'
# MySQL调优工具包使用指南

## 工具包概述
本工具包专为MySQL DBA和系统运维人员设计,提供从压力测试、配置检查到索引优化的全链路调优能力。包含经大规模生产环境验证的脚本和最佳实践模板。

## 包含工具
1. `sysbench-pro.sh` - 增强版压力测试工具
2. `index_advisor.py` - 索引冗余分析器
3. `pt-variable-advisor` - 配置检查工具(需额外安装Percona Toolkit)

## 快速开始
tar xzf mysql_tuning_toolkit.tar.gz
cd mysql_tuning_toolkit
# 初始化环境
./setup.sh --install
EOF
  1. 初始化环境脚本(setup.sh)
#!/bin/bash
# MySQL调优工具包初始化脚本 v1.2
# 最后更新:2024-03-20

set -e  # 遇到错误立即退出

# 颜色定义
RED='\033[0;31m'
GREEN='\033[0;32m'
YELLOW='\033[1;33m'
NC='\033[0m' # No Color

# 检查root权限
check_root() {
  if [[ $EUID -ne 0 && "$1" == "--install" ]]; then
    echo -e "${RED}[错误] 安装依赖需要root权限,请使用sudo执行本脚本${NC}"
    exit 1
  fi
}

# 安装基础依赖
install_dependencies() {
  echo -e "${YELLOW}[步骤1] 安装系统依赖包...${NC}"
  
  # 检测包管理器
  if command -v apt-get &> /dev/null; then
    sudo apt-get update
    sudo apt-get install -y mysql-client sysbench gnuplot python3-pip perl
  elif command -v yum &> /dev/null; then
    sudo yum install -y mysql sysbench gnuplot python3-pip perl
  else
    echo -e "${RED}[错误] 不支持的包管理器 (仅支持apt/yum)${NC}"
    exit 1
  fi

  echo -e "${YELLOW}[步骤2] 安装Python依赖...${NC}"
  pip3 install mysql-connector-python pandas

  echo -e "${YELLOW}[步骤3] 安装Percona Toolkit...${NC}"
  if ! command -v pt-variable-advisor &> /dev/null; then
    sudo percona-release enable tools
    sudo apt-get install -y percona-toolkit || sudo yum install -y percona-toolkit
  fi
}

# 配置测试数据库用户
setup_db_user() {
  echo -e "${YELLOW}[步骤4] 配置测试数据库用户...${NC}"
  read -p "请输入MySQL root密码(直接回车跳过): " -s root_pass
  echo ""
  
  mysql -u root -p"$root_pass" <<-eof 2>/dev/null || echo -e "${YELLOW}[警告] 跳过数据库用户配置${NC}"
    CREATE DATABASE IF NOT EXISTS sbtest;
    CREATE USER IF NOT EXISTS 'bench'@'%' IDENTIFIED BY 'Bench123!';
    GRANT ALL PRIVILEGES ON sbtest.* TO 'bench'@'%';
    FLUSH PRIVILEGES;
EOF
}

# 设置配置文件模板
init_configs() {
  echo -e "${YELLOW}[步骤5] 初始化配置文件...${NC}"
  cat > configs/db_cred.conf < configs/oltp_config.ini <<EOF
[benchmark]
host        = localhost
threads     = 64
tables      = 20
table_size  = 1000000
test_mode   = oltp_read_write
warmup_time = 60
EOF
}

# 设置文件权限
set_permissions() {
  echo -e "${YELLOW}[步骤6] 设置脚本权限...${NC}"
  chmod +x scripts/*.sh
  chmod +x scripts/*.py
}

# 主流程
main() {
  case "$1" in
    --install)
      check_root "$@"
      install_dependencies
      setup_db_user
      ;;
    *)
      init_configs
      set_permissions
      ;;
  esac

  echo -e "\n${GREEN}[√] 初始化完成!请按以下步骤操作:"
  echo -e "1. 编辑 configs/db_cred.conf 配置数据库连接"
  echo -e "2. 执行测试:./scripts/sysbench-pro.sh${NC}"
}

main "$@"

三、工具包使用说明

  1. 快速部署
# 解压
tar xzf mysql_tuning_toolkit.tar.gz
cd mysql_tuning_toolkit

# 首次安装(需要root权限)
sudo ./setup.sh --install

# 生成配置文件(普通用户运行)
./setup.sh

# 验证安装
pt-variable-advisor --version
sysbench --version
python3 scripts/index_advisor.py --help
  1. Sysbench Pro 压力测试
# 使用默认配置测试OLTP性能
./scripts/sysbench-pro.sh configs/oltp_config.ini
  1. Index Advisor 索引优化
# 分析指定数据库(需配置configs/db_cred.conf)
python3 scripts/index_advisor.py --config configs/db_cred.conf --database order_db
  1. Config Auditor 配置检查

生成审计报告

pt-variable-advisor --user root --password $PWD \
  --report-format markdown \
  --output reports/config_audit.md \
  localhost

自动修复高危项

pt-variable-advisor --user root --password $PWD \
  --fix-mode critical \
  --execute-changes \
  localhost
  1. 查看报告
tar xzf sysbench_report.tar.gz
firefox /tmp/bench_*/oltp_read_write_tps.png

注意事项

  1. 生产环境执行前务必在测试环境验证
  2. 索引删除操作默认生成ALTER INDEX ... INVISIBLE语句
  3. 压力测试会清空测试库数据,勿在业务库运行

相关推荐

NUS邵林团队发布DexSinGrasp基于强化学习实现物体分离与抓取统一

本文的作者均来自新加坡国立大学LinSLab。本文的共同第一作者为新加坡国立大学实习生许立昕和博士生刘子轩,主要研究方向为机器人学习和灵巧操纵,其余作者分别为硕士生桂哲玮、实习生郭京翔、江泽宇以及...

「PLC进阶」如何通过编写SCL语言程序实现物料分拣?

01、前言SCL作为IEC61131-3编程语言的一种,由于其高级语言的特性,特别适合复杂运算、复杂数学函数应用的场合。本文以FactoryIO软件中的物料分拣案例作为硬件基础,介绍如何通过SCL来实...

zk源码—5.请求的处理过程一(http1.1请求方法)

大纲1.服务器的请求处理链...

自己动手从0开始实现一个分布式 RPC 框架

前言为什么要自己写一个RPC框架,我觉得从个人成长上说,如果一个程序员能清楚的了解RPC框架所具备的要素,掌握RPC框架中涉及的服务注册发现、负载均衡、序列化协议、RPC通信协议、Socket通信、异...

MLSys’25 | 极低内存消耗:用SGD的内存成本实现AdamW的优化性能

AIxiv专栏是机器之心发布学术、技术内容的栏目。过去数年,机器之心AIxiv专栏接收报道了2000多篇内容,覆盖全球各大高校与企业的顶级实验室,有效促进了学术交流与传播。如果您有优秀的工作想要分享,...

线程池误用导致系统假死(线程池会自动销毁吗)

背景介绍在项目中,为了提高系统性能使用了RxJava实现异步方案,其中异步线程池是自建的。但是当QPS稍微增大之后却发现系统假死、无响应和返回,调用方出现大量超时现象。但是通过监控发现,系统线程数正常...

大型乘用车工厂布局规划(六大乘用车基地)

乘用车工厂的布局规划直接影响生产效率、物流成本、安全性和未来扩展能力。合理的布局应确保生产流程顺畅、物流高效、资源优化,并符合现代化智能制造和绿色工厂的要求。以下是详细的工厂布局规划要点:1.工厂布...

西门子 S7-200 SMART PLC 连接Factory IO的方法

有很多同学不清楚如何西门子200smart如何连接FactoryIO,本教程为您提供了如何使用西门子S7-200SMARTPLC连接FactoryIO的说明。设置PC和PLC之间的...

西门子博图高级仿真软件的应用(西门子博途软件仿真)

1.博图高级仿真软件(S7-PLCSIMAdvancedV2.0)S7-PLCSIMAdvancedV2.0包含大量仿真功能,通过创建虚拟控制器对S7-1500和ET200SP控制器进行仿真...

PLC编程必踩的6大坑——请对号入座,评论区见

一、缺乏整体规划:面条式代码问题实例:某快递分拣线项目初期未做流程图设计,工程师直接开始编写传送带控制程序。后期增加质检模块时发现I/O地址冲突,电机启停逻辑与传感器信号出现3处死循环,导致项目延期2...

统信UOS无需开发者模式安装软件包
统信UOS无需开发者模式安装软件包

原文链接:统信UOS无需开发者模式安装软件包...

2025-05-05 14:55 csdh11

100个Java工具类之76:数据指纹DigestUtils

为了提高数据安全性,保证数据的完整性和真实性,DigestUtils应运而生。正确恰当地使用DigestUtils的加密算法,可以实现数据的脱敏,防止数据泄露或篡改。...

麒麟KYLINIOS软件仓库搭建02-软件仓库添加新的软件包

#秋日生活打卡季#原文链接:...

Java常用工具类技术文档(java中工具类的作用)

一、概述Java工具类(UtilityClasses)是封装了通用功能的静态方法集合,能够简化代码、提高开发效率。本文整理Java原生及常用第三方库(如ApacheCommons、GoogleG...

软路由的用法(自动追剧配置)(软路由教学)

本内容来源于@什么值得买APP,观点仅代表作者本人|作者:值友98958248861环境和需求...