百度360必应搜狗淘宝本站头条
当前位置:网站首页 > IT技术 > 正文

MySQL数据爆炸怎么办?归档神器让你1分钟清理百万数据不丢分毫

wptr33 2025-03-03 20:29 25 浏览

一、开篇暴击:你的数据库正在经历这些痛苦吗?

  • 存储成本飙升:订单表3年增长到800GB,云盘费用月增2000+
  • 查询卡成PPT:用户历史数据检索响应时间突破15秒
  • 备份恢复噩梦:全库备份耗时从20分钟延长到2小时
  • 开发效率骤降:WHERE create_time<"2020年" 的查询拖垮整个实例

真实案例:某电商平台清理1.2亿日志数据,传统DELETE方式导致:

主从延迟12小时锁等待超时237次磁盘空间未释放


二、核弹级解决方案:pt-archiver工作原理揭秘

2.1 与传统方式的降维对比


DELETE语句

pt-archiver

执行方式

全事务提交

分批提交 (可配置)

锁机制

行锁升级为表锁

最小化锁定范围

磁盘空间

不会立即释放

立即释放

执行耗时

随数据量线性增长

恒定速率

风险指数

?????

?

2.2 三维透视工作原理




三、手把手实战教学(关键操作配截图)

3.1 安装篇:2分钟极速部署

# 适用于CentOS的「一行流」安装
sudo yum install percona-toolkit -y && which pt-archiver

3.2 基础篇:清理3年前订单数据

pt-archiver \
--source h=localhost,D=test,t=orders,u=root,p=123456 \
--where "create_time < DATE_SUB(NOW(), INTERVAL 3 YEAR)" \
--purge \
--limit 1000 \
--commit-each

参数解析表

参数名

作用说明

推荐值/示例

连接配置类



--source

指定源数据库连接(格式:h=主机,D=库名,t=表名,u=用户,p=密码)

h=192.168.1.2,D=order,t=logs

--dest

目标数据库连接(用于数据归档)

h=归档服务器IP,D=archive,t=logs

数据过滤类



--where

指定归档条件(需用引号包裹)

"create_time < '2022-01-01'"

--limit

每批次处理行数(影响锁持有时间)

500-5000(根据内存调整)

--progress

进度报告间隔行数

5000

执行控制类



--purge

直接删除数据不归档

清理日志表时使用

--no-delete

仅复制数据不删除(用于数据迁移)

数据迁移时启用

--txn-size

事务提交间隔(每N行提交事务)

1000(与limit值一致)

性能优化类



--bulk-delete

启用批量删除(提升删除效率)

总行数>10万时建议启用

--bulk-insert

启用批量插入(提升归档速度)

配合--dest使用

--sleep

批次间隔休眠时间(秒)

0.1-1(高负载时增加)

输出统计类



--statistics

输出执行统计信息

必启用

--why-quit

显示退出原因(调试用)

异常终止时使用

其他实用类



--charset

指定连接字符集

utf8mb4

--no-check-charset

跳过字符集验证(需确认兼容性)

谨慎使用

--dry-run

试运行模式(不实际执行操作)

必先执行验证

参数调优指南

  1. 高并发场景:--limit 500 --sleep 0.3
  2. 快速归档模式:--limit 5000 --bulk-insert --bulk-delete
  3. 敏感数据操作:--dry-run --why-quit

注意事项:

--limit值越大,单次事务时间越长,可能引发锁等待--sleep参数可有效降低主库压力,但会延长总执行时间务必先用--dry-run验证WHERE条件准确性


3.3 进阶篇:跨服务器归档

pt-archiver \
--source h=主库IP,D=生产库,t=订单表,u=archiver,p=密码 \
--dest h=归档库IP,D=历史库,t=订单表 \
--where "created_at < DATE_SUB(NOW(), INTERVAL 3 YEAR)" \
--limit 2000 \
--progress 5000 \
--bulk-delete \
--bulk-insert \
--statistics \
--txn-size 2000 \
--sleep 0.5 \
--no-check-charset

四、避坑指南:血泪经验总结

4.1 必查清单(执行前逐项确认)

  1. 已添加--dry-run参数试运行
  2. 目标表结构校验完成
  3. 从库延迟监控已开启
  4. 磁盘空间检查(至少保留20%)
  5. 业务低峰期窗口确认

4.2 高频报错解决方案

# 报错1:表结构不匹配
Error: Column count doesn't match
 修复方案:添加--columns参数指定字段

# 报错2:主键缺失
No PRIMARY or UNIQUE index found
 修复方案:临时添加索引
ALTER TABLE orders ADD INDEX idx_ctime(create_time);

# 报错3:外键约束
Cannot delete rows due to FOREIGN KEY
 修复方案:按依赖顺序归档或SET foreign_key_checks=0

五、性能核弹:百万级数据实战报告

5.1 测试环境

- 机器配置:4C8G SSD云主机
- MySQL版本:8.0.28
- 数据量:`orders`表350万条(未分区)

5.2 性能对比数据

指标

传统DELETE

pt-archiver

总耗时

6小时22分

11分钟

主库QPS波动

下降63%

波动<5%

磁盘空间释放

12小时后

立即释放

执行期间锁等待

89次

0次


六、专家私藏配置

结合Java代码以及shell脚本,是归档设置更加灵活

shell脚本

#!/bin/sh

set -e
#表结构列表
#echo $1

tableList=$1
sParams=$2
dParams=$3
oParams=$4
whereFrom=$5
whereTo=$6
operate=$7
IFS=";"

#历史数据处理
function doHistoryData() {
    for tableName in $tableList
    do
        commandStr="pt-archiver --source ${tableName} --dest ${tableName} ${whereFrom} --no-delete $oParams"
            echo "pt-archiver --source ${sParams}${tableName} --dest ${dParams}${tableName} ${whereFrom} --no-delete $oParams" | sh
            echo ${commandStr}
            commandStr="pt-archiver --source ${tableName} --dest ${tableName} ${whereTo} --bulk-delete $oParams"
            echo "pt-archiver --source ${sParams}${tableName} --dest ${dParams}${tableName} ${whereTo} --bulk-delete $oParams" | sh
            echo ${commandStr}
            echo "succ"
    done
}

# 参数检查
if [ -z ${operate} ]; then
  echo "operate can not be null."
else
  # 启动程序
  if [ ${operate} == "doHistory" ]; then
    doHistoryData
  else
    echo "Not supported the operate."
  fi
fi

Java代码

private Pair startBackUpSh(StringBuilder sBuilder, String tableName, String where, String filePath, String toFileName, String zipFileName, StringBuilder oBuilder, String method) throws IOException {
        String command = System.getProperty("user.dir") + "/bin/BackUp.sh";
        CommandLine cmdl = new CommandLine(command);
        cmdl.addArgument(sBuilder.toString(), false);
        cmdl.addArgument(tableName, false);
        cmdl.addArgument(where, false);
        cmdl.addArgument(filePath, false);
        cmdl.addArgument(toFileName, false);
        cmdl.addArgument(zipFileName, false);
        cmdl.addArgument(oBuilder.toString(), false);
        cmdl.addArgument(method, false);
        DefaultExecutor executor = new DefaultExecutor();
        ByteArrayOutputStream baos = new ByteArrayOutputStream();
        executor.setStreamHandler(new PumpStreamHandler(baos));
        int execute = executor.execute(cmdl);
        RUN_LOGGER.debug("execute result = {}", execute);
        final String result = baos.toString().trim();
        RUN_LOGGER.debug("execute result = {}", result);
        if (StrUtil.containsIgnoreCase(result, "succ") || StrUtil.containsIgnoreCase(result, "no more rows")) {
            return new Pair<>(true, result);
        } else {
            return new Pair<>(false, result);
        }
    }



相关推荐

redis的八种使用场景

前言:redis是我们工作开发中,经常要打交道的,下面对redis的使用场景做总结介绍也是对redis举报的功能做梳理。缓存Redis最常见的用途是作为缓存,用于加速应用程序的响应速度。...

基于Redis的3种分布式ID生成策略

在分布式系统设计中,全局唯一ID是一个基础而关键的组件。随着业务规模扩大和系统架构向微服务演进,传统的单机自增ID已无法满足需求。高并发、高可用的分布式ID生成方案成为构建可靠分布式系统的必要条件。R...

基于OpenWrt系统路由器的模式切换与网页设计

摘要:目前商用WiFi路由器已应用到多个领域,商家通过给用户提供一个稳定免费WiFi热点达到吸引客户、提升服务的目标。传统路由器自带的Luci界面提供了工厂模式的Web界面,用户可通过该界面配置路...

这篇文章教你看明白 nginx-ingress 控制器

主机nginx一般nginx做主机反向代理(网关)有以下配置...

如何用redis实现注册中心

一句话总结使用Redis实现注册中心:服务注册...

爱可可老师24小时热门分享(2020.5.10)

No1.看自己以前写的代码是种什么体验?No2.DooM-chip!国外网友SylvainLefebvre自制的无CPU、无操作码、无指令计数器...No3.我认为CS学位可以更好,如...

Apportable:拯救程序员,IOS一秒变安卓

摘要:还在为了跨平台使用cocos2d-x吗,拯救objc程序员的奇葩来了,ApportableSDK:FreeAndroidsupportforcocos2d-iPhone。App...

JAVA实现超买超卖方案汇总,那个最适合你,一篇文章彻底讲透

以下是几种Java实现超买超卖问题的核心解决方案及代码示例,针对高并发场景下的库存扣减问题:方案一:Redis原子操作+Lua脚本(推荐)//使用Redis+Lua保证原子性publicbo...

3月26日更新 快速施法自动施法可独立设置

2016年3月26日DOTA2有一个79.6MB的更新主要是针对自动施法和快速施法的调整本来内容不多不少朋友都有自动施法和快速施法的困扰英文更新日志一些视觉BUG修复就不翻译了主要翻译自动施...

Redis 是如何提供服务的

在刚刚接触Redis的时候,最想要知道的是一个’setnameJhon’命令到达Redis服务器的时候,它是如何返回’OK’的?里面命令处理的流程如何,具体细节怎么样?你一定有问过自己...

lua _G、_VERSION使用

到这里我们已经把lua基础库中的函数介绍完了,除了函数外基础库中还有两个常量,一个是_G,另一个是_VERSION。_G是基础库本身,指向自己,这个变量很有意思,可以无限引用自己,最后得到的还是自己,...

China&#39;s top diplomat to chair third China-Pacific Island countries foreign ministers&#39; meeting

BEIJING,May21(Xinhua)--ChineseForeignMinisterWangYi,alsoamemberofthePoliticalBureau...

移动工作交流工具Lua推出Insights数据分析产品

Lua是一个适用于各种职业人士的移动交流平台,它在今天推出了一项叫做Insights的全新功能。Insights是一个数据平台,客户可以在上面实时看到员工之间的交流情况,并分析这些情况对公司发展的影响...

Redis 7新武器:用Redis Stack实现向量搜索的极限压测

当传统关系型数据库还在为向量相似度搜索的性能挣扎时,Redis7的RedisStack...

Nginx/OpenResty详解,Nginx Lua编程,重定向与内部子请求

重定向与内部子请求Nginx的rewrite指令不仅可以在Nginx内部的server、location之间进行跳转,还可以进行外部链接的重定向。通过ngx_lua模块的Lua函数除了能实现Nginx...