百度360必应搜狗淘宝本站头条
当前位置:网站首页 > IT技术 > 正文

【法器篇】利用my2sql闪回误删数据

wptr33 2025-05-21 16:54 6 浏览

安装

根据操作系统版本下载对应版本

wget https://github.com/liuhr/my2sql/blob/master/releases/centOS_release_7.x/my2sql

用途

  • 数据快速回滚(闪回)
  • 主从切换后新master丢数据的修复
  • 从binlog生成标准SQL,带来的衍生功能
  • 生成DML统计信息,可以找到哪些表更新的比较频繁
  • IO高TPS高, 查出哪些表在频繁更新
  • 找出某个时间点数据库是否有大事务或者长事务
  • 主从延迟,分析主库执行的SQL语句
  • 除了支持常规数据类型,对大部分工具不支持的数据类型做了支持,比如json、blob、text、emoji等数据类型sql生成

限制

  • 使用回滚/闪回功能时,binlog格式必须为row,且binlog_row_image=full, DML统计以及大事务分析不受影响
  • 只能回滚DML, 不能回滚DDL
  • 支持指定-tl时区来解释binlog中time/datetime字段的内容。开始时间-start-datetime与结束时间-stop-datetime也会使用此指定的时区, 但注意此开始与结束时间针对的是binlog event header中保存的unix timestamp。结果中的额外的datetime时间信息都是binlog event header中的unix timestamp
  • 此工具是伪装成从库拉取binlog,需要连接数据库的用户有SELECT, REPLICATION SLAVE, REPLICATION CLIENT权限
  • MySQL8.0版本需要在配置文件中加入default_authentication_plugin =mysql_native_password,用户密码认证必须是mysql_native_password才能解析

主要参数

  • -U
    优先使用unique key作为where条件,默认false
  • -add-extraInfo
    当-work-type=2sql|rollback时,是否把database/table/datetime/binlogposition...信息以注释的方式加入生成的每条sql前,默认false
  • -big-trx-row-limit int
    找出满足n行的sql的事务,默认10条,有效值 1-30000
  • -databases string
    库条件过滤, 以逗号分隔,默认全部
  • -do-not-add-prifixDb
    默认生成insert into db1.tb1 (x1, x1) values (y1, y1)类sql,加上参数不生成库前缀
  • -file-per-table
    若为true,为每个表生成一个sql文件,默认为false。注意:一个文件对应一个binlog
  • -full-columns
    生成的sql是否带全列信息,默认false,使用更改的列生成集合部分,使用主键/唯一键生成where条件
  • -host string
    host 地址,default 127.0.0.1
  • -ignore-databases string
    忽略数据库,逗号分割,默认null
  • -ignore-primaryKey-forInsert
    使用-workType=2sql,生成的insert语句是否去掉主键,默认false
  • -ignore-tables string
    忽略数据表,逗号分割,默认null
  • -local-binlog-file string
    当指定-mode=file 参数时,需要指定-local-binlog-file binlog文件相对路径或绝对路径,可以连续解析多个binlog文件,只需要指定起始文件名,程序会自动持续解析下个文件
  • -long-trx-seconds int
    持续时间超出n秒的事务,有效值 0-3600,默认1
  • -mode string
    repl: 伪装成从库解析binlog文件,file: 离线解析binlog文件, 默认repl
  • -mysql-type string
    mysql类型:mysql,mariadb,默认mysql
  • -output-dir string
    将生成的结果存放到制定目录,默认当前目录。注意:结果集个能很大,注意空间
  • -output-toScreen
    将生成的结果打印到屏幕,默认写到文件
  • -password string
    mysql user password.
  • -port uint
    mysql port, default 3306. (default 3306)
  • -print-interval int
    与-w='stats'配合使用,打印每个PrintInterval的统计信息。有效值范围从1到600,默认值30(默认值30)
  • -server-id uint
    伪装slave时使用的server-id,不能与其他从库相同,default 1113306
  • -sql string
    要解析的sql类型,可选参数insert、update、delete,逗号分割,默认全部解析
  • -start-datetime string
    开始时间(包含)如: "2020-01-01 01:00:00"
  • -start-file string
    开始解析的binlog文件
  • -start-pos uint
    开始解析的pos点,默认4
  • -stop-datetime string
    结束时间(不包含)如: "2020-12-30 01:00:00"
  • -stop-file string
    结束解析的binlog文件
  • -stop-pos uint
    结束解析的pos点,默认4
  • -tables string
    表条件过滤, 以逗号分隔,不要库前缀,默认全部
  • -threads uint
    并行度,默认 2
  • -tl string
    指定时区,例如 Asia/Shanghai. default Local (default "Local")
  • -user string
    mysql user.
  • -v
    print version
  • -work-type string
    解析类型:2sql,rollback,stats,2sql:生成原始sql,rollback:生成回滚sql,stats:只统计DML、事务信息,default: 2sql

常用语句

mkdir tmpdir

  • 可以解析时候添加指定的库表信息

根据时间点解析标准SQL/回滚SQL

注意:默认是解析到最后一个binlog,可指定binlog范围,如果是解析到最后一个的,不能进行指定

########################  标准 SQL  #############################
## 伪装成从库解析binlog
./my2sql  -user yqtest -password 123456 -host 192.168.66.167 -port 3312 \
-mode repl \
-work-type 2sql  \
-start-file mysql-bin.000006  \
-stop-file mysql-bin.000007  \
-start-datetime "2022-10-28 11:15:00" \
-stop-datetime "2022-10-28 11:16:53" \
-output-dir ./tmpdir

#直接读取binlog文件解析
 ./my2sql  -user yqtest -password 123456 -host 192.168.66.167 -port 3312 \
-mode file \
-local-binlog-file ./mysql-bin.000006 \
-work-type 2sql  \
-start-file mysql-bin.000006  \
-stop-file mysql-bin.000007  \
-start-datetime "2022-10-28 11:15:00" \
-stop-datetime "2022-10-28 11:16:53" \
-output-dir ./tmpdir

########################  回滚 SQL  #############################
## 伪装成从库解析binlog
./my2sql  -user yqtest -password 123456 -host 192.168.66.167 -port 3312 \
-mode repl \
-work-type rollback  \
-start-file mysql-bin.000006  \
-stop-file mysql-bin.000007  \
-start-datetime "2022-10-28 11:15:00" \
-stop-datetime "2022-10-28 11:16:53" \
-output-dir ./tmpdir

#直接读取binlog文件解析
 ./my2sql  -user yqtest -password 123456 -host 192.168.66.167 -port 3312 \
-mode file \
-local-binlog-file ./mysql-bin.000006 \
-work-type rollback  \
-start-file mysql-bin.000006  \
-stop-file mysql-bin.000007  \
-start-datetime "2022-10-28 11:15:00" \
-stop-datetime "2022-10-28 11:16:53" \
-output-dir ./tmpdir

根据pos点解析出标准SQL/回滚SQL

注意:

start-pos点要找 mapped to number xxxx 上面的pos点

pos解析的binlog 只能是单个binlog文件中

########################  标准 SQL  #############################
## 伪装成从库解析binlog
./my2sql  -user yqtest -password 123456 -host 192.168.66.167 -port 3312 \
-mode repl \
-work-type 2sql  \
-start-file mysql-bin.000006  \
-stop-file mysql-bin.000006  \
-start-pos 1410 \
-stop-pos 1541 \
-output-dir ./tmpdir

#直接读取binlog文件解析
 ./my2sql  -user yqtest -password 123456 -host 192.168.66.167 -port 3312 \
-mode file \
-local-binlog-file ./mysql-bin.000006 \
-work-type 2sql  \
-start-file mysql-bin.000006  \
-stop-file mysql-bin.000006  \
-start-datetime "2022-10-28 11:15:00" \
-stop-datetime "2022-10-28 11:16:53" \
-output-dir ./tmpdir


########################  回滚 SQL  #############################
## 伪装成从库解析binlog
./my2sql  -user yqtest -password 123456 -host 192.168.66.167 -port 3312 \
-mode repl \
-work-type rollback  \
-start-file mysql-bin.000006  \
-stop-file mysql-bin.000006  \
-start-pos 1410 \
-stop-pos 1541 \
-output-dir ./tmpdir

#直接读取binlog文件解析
 ./my2sql  -user yqtest -password 123456 -host 192.168.66.167 -port 3312 \
-mode file \
-local-binlog-file ./mysql-bin.000006 \
-work-type rollback  \
-start-file mysql-bin.000006  \
-stop-file mysql-bin.000006  \
-start-datetime "2022-10-28 11:15:00" \
-stop-datetime "2022-10-28 11:16:53" \
-output-dir ./tmpdir

统计DML以及大事务

统计时间范围各个表的DML操作数量,统计一个事务大于500条、时间大于300秒的事务

#伪装成从库解析binlog
./my2sql  -user root -password xxxx -host 127.0.0.1   -port 3306  -mode repl -work-type stats  -start-file mysql-bin.011259  -start-datetime "2020-07-16 10:20:00" -stop-datetime "2020-07-16 11:00:00"  -big-trx-row-limit 500 -long-trx-seconds 300   -output-dir ./tmpdir
#直接读取binlog文件解析
./my2sql  -user root -password xxxx -host 127.0.0.1   -port 3306 -mode file -local-binlog-file ./mysql-bin.011259   -work-type stats  -start-file mysql-bin.011259  -start-datetime "2020-07-16 10:20:00" -stop-datetime "2020-07-16 11:00:00"  -big-trx-row-limit 500 -long-trx-seconds 300   -output-dir ./tmpdir

统计一段pos点范围各个表的DML操作数量,统计一个事务大于500条、时间大于300秒的事务

#伪装成从库解析binlog
./my2sql  -user root -password xxxx -host 127.0.0.1   -port 3306  -mode repl -work-type stats  -start-file mysql-bin.011259  -start-pos 4 -stop-file mysql-bin.011259 -stop-pos 583918266  -big-trx-row-limit 500 -long-trx-seconds 300   -output-dir ./tmpdir
#直接读取binlog文件解析
./my2sql  -user root -password xxxx -host 127.0.0.1   -port 3306 -mode file -local-binlog-file ./mysql-bin.011259  -work-type stats  -start-file mysql-bin.011259  -start-pos 4 -stop-file mysql-bin.011259 -stop-pos 583918266  -big-trx-row-limit 500 -long-trx-seconds 300   -output-dir ./tmpdir

从某一个pos点解析出标准SQL,并且持续打印到屏幕

#伪装成从库解析binlog
./my2sql  -user root -password xxxx -host 127.0.0.1   -port 3306 -mode repl  -work-type 2sql  -start-file mysql-bin.011259  -start-pos 4   -output-toScreen 

模拟实战

模拟误删了数据

mysql> delete from yqtest.sbtest1;
Query OK, 279552 rows affected (10.10 sec)

闪回数据

# 先查看当前的binlog地址
mysql> show master status;
+------------------+----------+--------------+------------------+--------------------------------------------------------------------------------------------------------------------------------------+
| File             | Position | Binlog_Do_DB | Binlog_Ignore_DB | Executed_Gtid_Set                                                                                                                    |
+------------------+----------+--------------+------------------+--------------------------------------------------------------------------------------------------------------------------------------+
| mysql-bin.000010 | 53344137 |              |                  | 645a456e-4f79-11ed-bee1-000c294448db:1-329386 |
+------------------+----------+--------------+------------------+--------------------------------------------------------------------------------------------------------------------------------------+
1 row in set (0.00 sec)


# 进行闪回数据
./my2sql  -user yqtest -password 123456 -host 192.168.66.167 -port 3312 \
-mode repl  \
-work-type 2sql  \
-start-file mysql-bin.000010  \
-start-datetime "2022-10-28 16:50:00" \
-stop-datetime "2022-10-28 16:56:00" \
-databases yqtest \
-tables sbtest1 \
-sql delete \
-output-dir ./tmpdir

离线恢复也可使用repl方式进行恢复(binlog下载后伪造在本地库) 需要创建好对应的库表结构

相关推荐

数据库基础:mysql主从集群搭建

文章首发于微信公众号:java架构师进阶之路前言:Mysql数据库没有增量备份的机制,当数据量太大的时候备份是一个很大的问题。还好mysql数据库提供了一种主从备份的机制,其实就是把主数据库的所有的...

Mysql-cluster搭建

前期准备准备五台虚拟机:ip地址分别为:192.168.1.211管理节点192.168.1.64SQL节点192.168.1.65SQL节点192.168.1.70数据节点192.168.1...

mysql 主从数据库搭建

一、创建目录在dev/htb下面创建文件夹master01htb]#mkdirmysql/master01-p2)进入master01...

从零搭建高可用的 MySQL 主从复制架构(基于 Linux 实战指南)

背景在生产环境中,单点MySQL数据库容易成为性能瓶颈或单点故障源。搭建MySQL主从复制架构,可以实现读写分离、高可用,提升系统的整体稳定性与扩展性。...

「MySQL 8」MySQL 5.7都即将停只维护了,是时候学习一波MySQL 8了

MySQL8新特性选择MySQL8的背景:MySQL5.6已经停止版本更新了,对于MySQL5.7版本,其将于2023年10月31日停止支持。后续官方将不再进行后续的代码维护。另外,...

Mysql启动选项和配置文件

Mysql启动选项和配置文件Mysql启动方式下面的启动命令都需要依赖在Linux环境下配置的Mysql环境变量...

centos安装mysql操作手册

1.下载Mysql首先去Mysql官网下载安装包,网址https://dev.mysql.com/downloads/mysql/推荐大家下载Linux通用版本的,便于管理安装位置,也方便一台服务器...

MySQL安装

MySQL的安装过程因操作系统的不同而有所差异。以下是在几种常见操作系统上安装MySQL的基本步骤:Windows下载MySQL:访问MySQL官方网站下载页面:MySQLDownloads...

MySQL数据库安装教程

前言今天就带各位小伙伴学习数据库技术。数据库技术是Java开发中必不可少的一部分知识内容。也是非常重要的技术。...

MySQL学到什么程度?才有可以在简历上写精通

前言如今互联网行业用的最多就是MySQL,然而对于高级Web面试者,尤其对于寻找30k下工作的求职者,很多MySQL相关知识点基本都会涉及,如果面试中,你的相关知识答的模糊和不切要点,基...

一起免费考 MySQL OCP 认证啦

前言:在1995年,首个MySQL版本发布,为庆祝MySQL诞辰30周年,OracleUniversity在限定期间内推出了多个MySQL的免费培训课程与认证,其中也包括My...

教程2 | 制作用户管理系统

一、项目简介用户管理系统是一个基于C/S模式的小型管理系统,使用了GUI技术来实现管理系统的页面效果,该管理系统可以对用户的信息,比如姓名、年龄、密码和地址等进行增删改查操作。用户管理系统通过JDBC...

红帽Linux中安装mysql8详细步骤

注意:我写的解压路径和截图路径不一致,仅供参考先前往官网下载mysql8下载地址:https://dev.mysql.com/downloads/选择指定版本和系统下载命令...

MySQL主从配置

主从原理MySQL主从又叫做Replication、AB复制。简单讲就是A和B两台机器做主从后,在A上写数据,另外一台B也会跟着写数据,两者数据实时同步的。...

mysql的主从搭建以及实现主从切换方法

主从搭建的方法:a.准备两台服务器...