百度360必应搜狗淘宝本站头条
当前位置:网站首页 > IT技术 > 正文

【法器篇】利用my2sql闪回误删数据

wptr33 2025-05-21 16:54 13 浏览

安装

根据操作系统版本下载对应版本

wget https://github.com/liuhr/my2sql/blob/master/releases/centOS_release_7.x/my2sql

用途

  • 数据快速回滚(闪回)
  • 主从切换后新master丢数据的修复
  • 从binlog生成标准SQL,带来的衍生功能
  • 生成DML统计信息,可以找到哪些表更新的比较频繁
  • IO高TPS高, 查出哪些表在频繁更新
  • 找出某个时间点数据库是否有大事务或者长事务
  • 主从延迟,分析主库执行的SQL语句
  • 除了支持常规数据类型,对大部分工具不支持的数据类型做了支持,比如json、blob、text、emoji等数据类型sql生成

限制

  • 使用回滚/闪回功能时,binlog格式必须为row,且binlog_row_image=full, DML统计以及大事务分析不受影响
  • 只能回滚DML, 不能回滚DDL
  • 支持指定-tl时区来解释binlog中time/datetime字段的内容。开始时间-start-datetime与结束时间-stop-datetime也会使用此指定的时区, 但注意此开始与结束时间针对的是binlog event header中保存的unix timestamp。结果中的额外的datetime时间信息都是binlog event header中的unix timestamp
  • 此工具是伪装成从库拉取binlog,需要连接数据库的用户有SELECT, REPLICATION SLAVE, REPLICATION CLIENT权限
  • MySQL8.0版本需要在配置文件中加入default_authentication_plugin =mysql_native_password,用户密码认证必须是mysql_native_password才能解析

主要参数

  • -U
    优先使用unique key作为where条件,默认false
  • -add-extraInfo
    当-work-type=2sql|rollback时,是否把database/table/datetime/binlogposition...信息以注释的方式加入生成的每条sql前,默认false
  • -big-trx-row-limit int
    找出满足n行的sql的事务,默认10条,有效值 1-30000
  • -databases string
    库条件过滤, 以逗号分隔,默认全部
  • -do-not-add-prifixDb
    默认生成insert into db1.tb1 (x1, x1) values (y1, y1)类sql,加上参数不生成库前缀
  • -file-per-table
    若为true,为每个表生成一个sql文件,默认为false。注意:一个文件对应一个binlog
  • -full-columns
    生成的sql是否带全列信息,默认false,使用更改的列生成集合部分,使用主键/唯一键生成where条件
  • -host string
    host 地址,default 127.0.0.1
  • -ignore-databases string
    忽略数据库,逗号分割,默认null
  • -ignore-primaryKey-forInsert
    使用-workType=2sql,生成的insert语句是否去掉主键,默认false
  • -ignore-tables string
    忽略数据表,逗号分割,默认null
  • -local-binlog-file string
    当指定-mode=file 参数时,需要指定-local-binlog-file binlog文件相对路径或绝对路径,可以连续解析多个binlog文件,只需要指定起始文件名,程序会自动持续解析下个文件
  • -long-trx-seconds int
    持续时间超出n秒的事务,有效值 0-3600,默认1
  • -mode string
    repl: 伪装成从库解析binlog文件,file: 离线解析binlog文件, 默认repl
  • -mysql-type string
    mysql类型:mysql,mariadb,默认mysql
  • -output-dir string
    将生成的结果存放到制定目录,默认当前目录。注意:结果集个能很大,注意空间
  • -output-toScreen
    将生成的结果打印到屏幕,默认写到文件
  • -password string
    mysql user password.
  • -port uint
    mysql port, default 3306. (default 3306)
  • -print-interval int
    与-w='stats'配合使用,打印每个PrintInterval的统计信息。有效值范围从1到600,默认值30(默认值30)
  • -server-id uint
    伪装slave时使用的server-id,不能与其他从库相同,default 1113306
  • -sql string
    要解析的sql类型,可选参数insert、update、delete,逗号分割,默认全部解析
  • -start-datetime string
    开始时间(包含)如: "2020-01-01 01:00:00"
  • -start-file string
    开始解析的binlog文件
  • -start-pos uint
    开始解析的pos点,默认4
  • -stop-datetime string
    结束时间(不包含)如: "2020-12-30 01:00:00"
  • -stop-file string
    结束解析的binlog文件
  • -stop-pos uint
    结束解析的pos点,默认4
  • -tables string
    表条件过滤, 以逗号分隔,不要库前缀,默认全部
  • -threads uint
    并行度,默认 2
  • -tl string
    指定时区,例如 Asia/Shanghai. default Local (default "Local")
  • -user string
    mysql user.
  • -v
    print version
  • -work-type string
    解析类型:2sql,rollback,stats,2sql:生成原始sql,rollback:生成回滚sql,stats:只统计DML、事务信息,default: 2sql

常用语句

mkdir tmpdir

  • 可以解析时候添加指定的库表信息

根据时间点解析标准SQL/回滚SQL

注意:默认是解析到最后一个binlog,可指定binlog范围,如果是解析到最后一个的,不能进行指定

########################  标准 SQL  #############################
## 伪装成从库解析binlog
./my2sql  -user yqtest -password 123456 -host 192.168.66.167 -port 3312 \
-mode repl \
-work-type 2sql  \
-start-file mysql-bin.000006  \
-stop-file mysql-bin.000007  \
-start-datetime "2022-10-28 11:15:00" \
-stop-datetime "2022-10-28 11:16:53" \
-output-dir ./tmpdir

#直接读取binlog文件解析
 ./my2sql  -user yqtest -password 123456 -host 192.168.66.167 -port 3312 \
-mode file \
-local-binlog-file ./mysql-bin.000006 \
-work-type 2sql  \
-start-file mysql-bin.000006  \
-stop-file mysql-bin.000007  \
-start-datetime "2022-10-28 11:15:00" \
-stop-datetime "2022-10-28 11:16:53" \
-output-dir ./tmpdir

########################  回滚 SQL  #############################
## 伪装成从库解析binlog
./my2sql  -user yqtest -password 123456 -host 192.168.66.167 -port 3312 \
-mode repl \
-work-type rollback  \
-start-file mysql-bin.000006  \
-stop-file mysql-bin.000007  \
-start-datetime "2022-10-28 11:15:00" \
-stop-datetime "2022-10-28 11:16:53" \
-output-dir ./tmpdir

#直接读取binlog文件解析
 ./my2sql  -user yqtest -password 123456 -host 192.168.66.167 -port 3312 \
-mode file \
-local-binlog-file ./mysql-bin.000006 \
-work-type rollback  \
-start-file mysql-bin.000006  \
-stop-file mysql-bin.000007  \
-start-datetime "2022-10-28 11:15:00" \
-stop-datetime "2022-10-28 11:16:53" \
-output-dir ./tmpdir

根据pos点解析出标准SQL/回滚SQL

注意:

start-pos点要找 mapped to number xxxx 上面的pos点

pos解析的binlog 只能是单个binlog文件中

########################  标准 SQL  #############################
## 伪装成从库解析binlog
./my2sql  -user yqtest -password 123456 -host 192.168.66.167 -port 3312 \
-mode repl \
-work-type 2sql  \
-start-file mysql-bin.000006  \
-stop-file mysql-bin.000006  \
-start-pos 1410 \
-stop-pos 1541 \
-output-dir ./tmpdir

#直接读取binlog文件解析
 ./my2sql  -user yqtest -password 123456 -host 192.168.66.167 -port 3312 \
-mode file \
-local-binlog-file ./mysql-bin.000006 \
-work-type 2sql  \
-start-file mysql-bin.000006  \
-stop-file mysql-bin.000006  \
-start-datetime "2022-10-28 11:15:00" \
-stop-datetime "2022-10-28 11:16:53" \
-output-dir ./tmpdir


########################  回滚 SQL  #############################
## 伪装成从库解析binlog
./my2sql  -user yqtest -password 123456 -host 192.168.66.167 -port 3312 \
-mode repl \
-work-type rollback  \
-start-file mysql-bin.000006  \
-stop-file mysql-bin.000006  \
-start-pos 1410 \
-stop-pos 1541 \
-output-dir ./tmpdir

#直接读取binlog文件解析
 ./my2sql  -user yqtest -password 123456 -host 192.168.66.167 -port 3312 \
-mode file \
-local-binlog-file ./mysql-bin.000006 \
-work-type rollback  \
-start-file mysql-bin.000006  \
-stop-file mysql-bin.000006  \
-start-datetime "2022-10-28 11:15:00" \
-stop-datetime "2022-10-28 11:16:53" \
-output-dir ./tmpdir

统计DML以及大事务

统计时间范围各个表的DML操作数量,统计一个事务大于500条、时间大于300秒的事务

#伪装成从库解析binlog
./my2sql  -user root -password xxxx -host 127.0.0.1   -port 3306  -mode repl -work-type stats  -start-file mysql-bin.011259  -start-datetime "2020-07-16 10:20:00" -stop-datetime "2020-07-16 11:00:00"  -big-trx-row-limit 500 -long-trx-seconds 300   -output-dir ./tmpdir
#直接读取binlog文件解析
./my2sql  -user root -password xxxx -host 127.0.0.1   -port 3306 -mode file -local-binlog-file ./mysql-bin.011259   -work-type stats  -start-file mysql-bin.011259  -start-datetime "2020-07-16 10:20:00" -stop-datetime "2020-07-16 11:00:00"  -big-trx-row-limit 500 -long-trx-seconds 300   -output-dir ./tmpdir

统计一段pos点范围各个表的DML操作数量,统计一个事务大于500条、时间大于300秒的事务

#伪装成从库解析binlog
./my2sql  -user root -password xxxx -host 127.0.0.1   -port 3306  -mode repl -work-type stats  -start-file mysql-bin.011259  -start-pos 4 -stop-file mysql-bin.011259 -stop-pos 583918266  -big-trx-row-limit 500 -long-trx-seconds 300   -output-dir ./tmpdir
#直接读取binlog文件解析
./my2sql  -user root -password xxxx -host 127.0.0.1   -port 3306 -mode file -local-binlog-file ./mysql-bin.011259  -work-type stats  -start-file mysql-bin.011259  -start-pos 4 -stop-file mysql-bin.011259 -stop-pos 583918266  -big-trx-row-limit 500 -long-trx-seconds 300   -output-dir ./tmpdir

从某一个pos点解析出标准SQL,并且持续打印到屏幕

#伪装成从库解析binlog
./my2sql  -user root -password xxxx -host 127.0.0.1   -port 3306 -mode repl  -work-type 2sql  -start-file mysql-bin.011259  -start-pos 4   -output-toScreen 

模拟实战

模拟误删了数据

mysql> delete from yqtest.sbtest1;
Query OK, 279552 rows affected (10.10 sec)

闪回数据

# 先查看当前的binlog地址
mysql> show master status;
+------------------+----------+--------------+------------------+--------------------------------------------------------------------------------------------------------------------------------------+
| File             | Position | Binlog_Do_DB | Binlog_Ignore_DB | Executed_Gtid_Set                                                                                                                    |
+------------------+----------+--------------+------------------+--------------------------------------------------------------------------------------------------------------------------------------+
| mysql-bin.000010 | 53344137 |              |                  | 645a456e-4f79-11ed-bee1-000c294448db:1-329386 |
+------------------+----------+--------------+------------------+--------------------------------------------------------------------------------------------------------------------------------------+
1 row in set (0.00 sec)


# 进行闪回数据
./my2sql  -user yqtest -password 123456 -host 192.168.66.167 -port 3312 \
-mode repl  \
-work-type 2sql  \
-start-file mysql-bin.000010  \
-start-datetime "2022-10-28 16:50:00" \
-stop-datetime "2022-10-28 16:56:00" \
-databases yqtest \
-tables sbtest1 \
-sql delete \
-output-dir ./tmpdir

离线恢复也可使用repl方式进行恢复(binlog下载后伪造在本地库) 需要创建好对应的库表结构

相关推荐

redis的八种使用场景

前言:redis是我们工作开发中,经常要打交道的,下面对redis的使用场景做总结介绍也是对redis举报的功能做梳理。缓存Redis最常见的用途是作为缓存,用于加速应用程序的响应速度。...

基于Redis的3种分布式ID生成策略

在分布式系统设计中,全局唯一ID是一个基础而关键的组件。随着业务规模扩大和系统架构向微服务演进,传统的单机自增ID已无法满足需求。高并发、高可用的分布式ID生成方案成为构建可靠分布式系统的必要条件。R...

基于OpenWrt系统路由器的模式切换与网页设计

摘要:目前商用WiFi路由器已应用到多个领域,商家通过给用户提供一个稳定免费WiFi热点达到吸引客户、提升服务的目标。传统路由器自带的Luci界面提供了工厂模式的Web界面,用户可通过该界面配置路...

这篇文章教你看明白 nginx-ingress 控制器

主机nginx一般nginx做主机反向代理(网关)有以下配置...

如何用redis实现注册中心

一句话总结使用Redis实现注册中心:服务注册...

爱可可老师24小时热门分享(2020.5.10)

No1.看自己以前写的代码是种什么体验?No2.DooM-chip!国外网友SylvainLefebvre自制的无CPU、无操作码、无指令计数器...No3.我认为CS学位可以更好,如...

Apportable:拯救程序员,IOS一秒变安卓

摘要:还在为了跨平台使用cocos2d-x吗,拯救objc程序员的奇葩来了,ApportableSDK:FreeAndroidsupportforcocos2d-iPhone。App...

JAVA实现超买超卖方案汇总,那个最适合你,一篇文章彻底讲透

以下是几种Java实现超买超卖问题的核心解决方案及代码示例,针对高并发场景下的库存扣减问题:方案一:Redis原子操作+Lua脚本(推荐)//使用Redis+Lua保证原子性publicbo...

3月26日更新 快速施法自动施法可独立设置

2016年3月26日DOTA2有一个79.6MB的更新主要是针对自动施法和快速施法的调整本来内容不多不少朋友都有自动施法和快速施法的困扰英文更新日志一些视觉BUG修复就不翻译了主要翻译自动施...

Redis 是如何提供服务的

在刚刚接触Redis的时候,最想要知道的是一个’setnameJhon’命令到达Redis服务器的时候,它是如何返回’OK’的?里面命令处理的流程如何,具体细节怎么样?你一定有问过自己...

lua _G、_VERSION使用

到这里我们已经把lua基础库中的函数介绍完了,除了函数外基础库中还有两个常量,一个是_G,另一个是_VERSION。_G是基础库本身,指向自己,这个变量很有意思,可以无限引用自己,最后得到的还是自己,...

China's top diplomat to chair third China-Pacific Island countries foreign ministers' meeting

BEIJING,May21(Xinhua)--ChineseForeignMinisterWangYi,alsoamemberofthePoliticalBureau...

移动工作交流工具Lua推出Insights数据分析产品

Lua是一个适用于各种职业人士的移动交流平台,它在今天推出了一项叫做Insights的全新功能。Insights是一个数据平台,客户可以在上面实时看到员工之间的交流情况,并分析这些情况对公司发展的影响...

Redis 7新武器:用Redis Stack实现向量搜索的极限压测

当传统关系型数据库还在为向量相似度搜索的性能挣扎时,Redis7的RedisStack...

Nginx/OpenResty详解,Nginx Lua编程,重定向与内部子请求

重定向与内部子请求Nginx的rewrite指令不仅可以在Nginx内部的server、location之间进行跳转,还可以进行外部链接的重定向。通过ngx_lua模块的Lua函数除了能实现Nginx...