百度360必应搜狗淘宝本站头条
当前位置:网站首页 > IT技术 > 正文

出大事情了,项目出事故了,多了2000万的数据

wptr33 2025-02-18 13:42 17 浏览

项目事故

在数据库写了一个定时任务,由于某些原因错误的把表内的历史数据当作正常数据写入了表,造成表内数据量飞快增长,一天后才发现定时任务出错了,数据量已经增长到了2400万条数据了。

今天发现系统特别慢,也没有排查到原因。突然有用户说系统的状态数据不正确,才确认是定时任务内的数据造成了状态异常。

幸运的是这个表的数据是只有插入,没有修改和删除操作。只需要把异常的数据删除掉即可。

确认了一下需要删除的数据有2400万条。以后找工作,再问是否有千万的数据操作经验,你看这不就来了吗?

我很着急,我很着急,想尽快把事故处理掉。

delete删除

首先用delete根据条件删除

由于发现事故的时候,首先对所有的异常数据进行删除。

delete from  table where remark like '来源于database.dbo.%' and tableid is null 

但是数据量太大了,如果直接删除,整个系统将会卡住,很长时间不能使用。

根据特定编码删除

发现上面方式行不通后,通过特定编码条件进行删除,

delete from  table where remark like '来源于database.dbo.%' and tableid is null and code='123456'

生成一批删除语句,批量执行

select top 1000 code,count(1),
  ' delete from  table where remark like ''来源于database.dbo.%'' and tableid is null and code='''+code+'''; '+Char(13)+Char(10)+'  '  from table where remark like '来源于database.dbo.%' and tableid is null 
group by code



执行了几次后,发现执行的特别慢。100条数据也需要大概1分多钟的时间。

根据ID删除

发现上面方式太慢后,确定根据ID删除。由于ID是自增的。而且是主键。删除理论上应该会快很多。

select top 100000  id,
' delete from  table where id='''+Cast(id as nvarchar(100))+'''; '+Char(13)+Char(10)+'  '  
from table with(nolock) 
where remark like '来源于database.dbo.%' and tableid is null 

删除10万条数据,在30秒到1分钟之间。速度的确快了很多。

但是2000/10=200 最少还需要200次的手动操作,大约200分钟,也就是3个多小时,才能删除完成。

而且删除10万次也不稳定,执行几次后,会出现内存溢出等问题。

操作几次后,我更着急了,快抑郁了,不知道改怎么办,这种方式感觉有点蠢,3个小时真的很煎熬。

把复制改名

思路:

把正确的数据复制到一个表中,然后把原来的表改名成table_source,把复制的数据改名为原来的表名。

--把原表重命名
EXEC sp_rename 'tablename', 'tablename_Source'; 
--把正确的表重命名为原来的表明
EXEC sp_rename 'tablename20240724', 'tablename';

结果这个表进行了发布订阅。需要先取消订阅。

不知道怎么取消订阅,就换了个方式对备份数据进行清空后,删除原来的表,在重新创建。

我很着急,都要疯了。

重新创建表

对整个表进行备份。

select * into table20240723142500 from table with(nolock)

然后把正确的数据复制到一个新的表里面

select * into table20240725 
from table with(nolock)
where id not in (
	select * from table_error_ids
)

清空当前表的数据

truncate table tablename;

删除这个表

drop table tablename;

把正确的数据复制回到原表

select * into tablename from table20240725 with(nolock)

理论上这样一顿操作后,数据应该是正确的了。

结果由于订阅发布了,truncate和drop不能操作。

取消订阅

数据库服务器->复制->本地发布->找到发布的数据库

然后取消对于上面要操作表的发布订阅。

然后再次执行【重新创建表】的逻辑。

执行成功。2000多万行数据都删除了。

最后确认一下主键ID是否自增;数据是否正确性;订阅重新添加订阅。

整个项目事故就处理完了。

轻松了,跟用户确认了一下数据,完全正确。

长长的呼了一口气。

相关推荐

威信Chronosonic XVX全新旗舰全球首发 设计特点彻底公开

第一眼看到WilsonAudio新推出的ChronosonicXVX音箱,相信大家都会直觉认为它是两年前超级旗舰WAMMMasterChronosonic的缩小版,不过这个推测并不完全正确。C...

C#高精度Timer和Delay以及时间测量

在PCHMI7.0后在工具箱里会多一个MsTimer,以及Delay和Microsecond两个类。...

python教程从基础到精通,第9课—日期与时间

Hello,小伙伴们,祝大家五.一玩得快乐!刚学习完了七大数据类型,今天咱们来学习日期与时间的表示方法。Python标准库中提供了时间和日期的支持:calendar:日历相关;time、datetim...

软件测试|教你轻松玩转Python日期时间

Python基础之日期时间处理...

Go语言中互斥锁与读写锁,你知多少?

简述Golang中的锁机制主要包含互斥锁和读写锁互斥锁互斥锁是传统并发程序对共享资源进行控制访问的主要手段。在Go中主要使用sync.Mutex的结构体表示。一个简单的示例:funcmutex()...

变形金刚动画大电影——经典台词赏析

YOURDAYSARENUMBEREDNOW,DECEPTI-CREEPS你们活不了多久了,霸天虎小子。-{铁皮说的话,体现了铁皮的嫉恶如仇,可是后来铁皮在飞船上遇袭身亡,可谓是出师未捷身先...

Python时间日期模块使用教程(python3日期)

1.时间日期处理概述在日常编程中,时间日期处理是非常常见的需求,比如:记录日志时间...

亚马逊介绍AWS“无服务器”云服务改进:数据库可线上扩充容量等

IT之家11月29日消息,在今天于美国拉斯维加斯展开的亚马逊“AWSre:Invent2023”活动中,亚马逊计算部门资深副总裁PeterDeSantis,介绍了旗下三款云端服务,IT...

2.日期格式 datetime(日期时间显示格式)

fromdatetimeimportdatetime1.获取当前日期和时间now=datetime.now()#2025-05-3110:56:01.4687822.格式化日期...

【科普】时间单位大盘点(时间单位都有哪些?)

时间单位,是7种基本单位之一,长度、时间、质量、物质的量、光照度、电流和(热力学)温度是七种基本单位。本词条中时间单位以时间从大到小列。今天我们来盘点下时间的单位换算...

基于PHP的Laravel框架,盘点Github高星Web管理后台,效率为王!

在Web开发工作中,选择一个高效、稳定的后台管理系统是提高开发效率的关键。虽然PHP在近些年中的热度有所减退,但其上手简单、开源、灵活且被广泛应用的特点,仍然使其在编程语言排行榜中保持前十的位置。这表...

如何使用PHP编写一个简单的留言板?

留言板是一个常见的Web应用程序,允许用户在网站上发布和查看留言。在本文中,我们将使用PHP编写一个简单的留言板,介绍构建过程中的关键步骤和技巧。一、准备工作在开始编写留言板之前,我们需要准备好以下工...

产品经理提需求时要考虑的 15 个隐性需求

虽然世界充满未知的变化,但是有一些大的方向还是可以把握的,本文跟大家谈谈产品经理提需求时要考虑的15个隐性需求,enjoy~俗话说,计划赶不上变化快,无论需求文档做得如何细致,考虑得如何周全,总会...

关于 PHP 启动 MongoDb 找不到指定模块问题

前言:最近有一个小demo,需要通过PHP将用户行为记录储存到MongoDB,再用Spark做协同过滤。由于以前处理跨语言交互是通过消息中间件,这次本地使用MongoDB却弄出了几个问...

PHP程序员老鸟面试经历(php程序员怎么样)

在任何时代找任何工作都有面试这么一说的。特别是高端技术类的工种对技术理论和技术实操能力要求很严格。大部分公司招收技术员工的要求也越来愈高。至于PHP程序员也是如此,我估计大多数PHP老鸟已经不在意所...