mysql数据库如何实现亿级数据快速清理
程序员文章站
2022-06-24 22:13:28
今天收到磁盘报警异常,50g的磁盘被撑爆了,分析解决过程如下:
1. 进入linux服务器,查看mysql文件夹中各个数据库所占的磁盘空间大小
看到了吗,光olderd...
今天收到磁盘报警异常,50g的磁盘被撑爆了,分析解决过程如下:
1. 进入linux服务器,查看mysql文件夹中各个数据库所占的磁盘空间大小
看到了吗,光olderdb就占了25g
2. 用sqlyog登录mysql数据库,查看数据库各个表的占用空间情况
select concat(table_schema,'.',table_name) as 'aaa', table_rows as 'number of rows', concat(round(data_length/(1024*1024*1024),6),' g') as 'data size', concat(round(index_length/(1024*1024*1024),6),' g') as 'index size' , concat(round((data_length+index_length)/(1024*1024*1024),6),' g') as'total' from information_schema.tables where table_schema like 'olderdb';
3. 查询主键索引
show index from orbit
采取策略
前提:目前需要删除80%的数据
① delete语句
我们知道delete语句的删除速度与索引量成正比,此表中的索引量已经很大了,而且数据量非常之巨大,若采用常规delete语句删除,必定会话费几天的时间。
delete语句删除不会释放出磁盘空间,所以肯定还是会出现报警,所以此种方式不可取。
② drop掉表
新建结构相同的表,命名“cc”,'将需要保存的数据插入到此表中,然后drop掉老表。
sql语句如下:
基于老表新建新表
create table cc like orbit ;
插入数据(几百万的数据量一定要分批插入,一次30万-40万为最佳,毕竟mysql的数据处理能力有限)
按日期查询后插入(每天大概会产生30多万数据量,所以采用日期插入)
insert into cc select * from orbit where xttime > '2018-04-16 00:00:00' and xttime<='2018-04-17 00:00:00';
结果如下:
可以看到50多万的数据量用了不到5分钟,还是比较快的。
清理后数据表空间得以释放
然后drop掉老表
drop table orbit
目测只用了3秒左右
重命名新表“cc”
alter table cc rename to orbit
总结
以上所述是小编给大家介绍的mysql数据库如何实现亿级数据快速清理 ,希望对大家有所帮助
推荐阅读
-
详解如何利用amoeba(变形虫)实现mysql数据库读写分离
-
MySQL实现快速删除所有表而不删除数据库的方法
-
在项目中迁移MS SQLServer到Mysql数据库,实现MySQL数据库的快速整合
-
mysql如何实现自动获取目标数据库的数据来作为备份机?
-
如何使用myisamchk和mysqlcheck工具快速修复损坏的MySQL数据库文件
-
Shell下实现免密码快速登陆MySQL数据库的方法
-
MySql如何实现远程登录MySql数据库过程解析
-
用java开发图形界面项目,如何实现从本地选择图片文件并以二进制流的形式保存到MySQL数据库,并重新现实到面板
-
mysql数据库如何实现亿级数据快速清理
-
如何利用Python连接MySQL数据库实现数据储存