MySql 如何实现无则插入有则更新
摘要
某些场景会有这样的需求:无记录则插入,有记录则更新。例如:新增用户,以身份证号码作为唯一身份标识,插入时若先查询是否存在记录再决定插入还是更新,在高并发情况下必然存在问题。本文提供三种解决方案。
方案一 加锁
无论通过synchronized锁、reentranlock锁还是分布式锁,都可以解决该问题。缺点是,加锁会影响性能。方法二和三都是数据库层面解决方案,个人感觉比方法一好一些。
方案二 unique和replace into … select …
首先对唯一性的字段添加唯一索引alter table tb_name add unique (col1、col2...),,通过唯一索引即可保证数据的唯一性。
加入唯一索引后,通过insert into插入相同数据就会报错,此时需要使用replace into插入数据,用法是一样的。通过replace into插入数据时,若存在相同数据,会将之前的记录删除,再重新插入数据。缺点是,存在先删除再插入的过程,sql需要考虑全部数据列,不然会丢失部分列的数据。缺点是,建立唯一索引会影响插入效率。下面是具体的例子。
# 建立索引 alter table user add unique (id_card); # 假设user表只有id,name,id_card三个字段,且id字段自增。 # 现在需要插入name=ly,id_card=142733的记录。 # 但是,若之前存在id_card=142733的记录,修改name=ly即可。 replace into user (id,name,id_card) select id,'ly',142733 from user right join (select 1) as tab on user.id_card = 142733;
通过right join (select 1),若存在id_card=142733的记录,执行sql后会将原始id保存在临时的结果集中,随name和id_card一同插入。若不存在该记录,则将null作为id随name和id_card一同插入。最终实现
方案三 通过预插入语句判断是否存在记录
通过预插入语句,尝试插入,判断修改的记录是否大于0,若大于0表示插入成功,若为0则表示记录已存在,需要执行更新操作。
# 预插入 insert into user (name,id_card) select 'ly',142733 from dual where not existe (select id_card from user where id_card = 142733) ; # 若预插入语句插入成功(修改记录数=1),则无需后续操作。否则执行更新操作。 update user set name = 'ly' where id_card = 142733;
通过not existe条件,若存在id_card=142733的记录则伪表dual记录为空,预插入语句修改记录为0,此时需要执行更新操作。
若不存在id_card=142733的记录,则伪表dual记录为一行且内容是'ly',142733,预插入语句修改记录为1,此时不必执行更新语句。
mysql批量插入更新性能优化
对于数据量较大的插入和更新,因io/cpu等性能瓶颈,会产生大量的时间消耗,目前主流的优化主要包括预编译、单条sql插入多条数据、事务插入等,下面详细介绍一下:
单条插入(mybatis)
insert into sys_city (city_code, city_name, province_name, alias, abbre_py) values (${citycode}, ${cityname}, ${provincename}, ${alias}, ${abbrepy})
单条预编译插入(mybatis)
采用预编译可以节约mysql服务的解析时间,mytatis中就是采用#变量
insert into sys_city (city_code, city_name, province_name, alias, abbre_py) values (#{citycode}, #{cityname}, #{provincename}, #{alias}, #{abbrepy})
单条sql插入多条数据
即是拼接sql,在一个sql中插入多条或更新多条数据。
insert into sys_city (city_code, city_name, province_name, alias, abbre_py) values ("citycode1", "cityname1", "provincename1" "alias1", "abbrepy1"),("citycode2", "cityname2", "provincename2" "alias2", "abbrepy2")
快的原因
1、合并后日志量(mysql的binlog和innodb的事务让日志)减少了,降低日志刷盘的数据量和频率,从而提高效率;
2、通过合并sql语句,减少网络传输的io;
3、通过合并sql语句,减少sql语句解析的次数;
注意事项
1、数据库sql长度是有限制,sql长度别溢出,会报错;
2、乱序插入时候速度超过innodb_buffer的容量,每次定位索引涉及较多的磁盘读写操作,性能下降较快;
事务插入
事务插入即在插入前开启事务,插入结束关闭事务进行提交即可。
快的原因
1、进行一个insert操作时,mysql内部会建立一个事务,在事务内才进行真正插入处理操作。通过使用事务可以减少创建事务的消耗;
注意事项
1、事务不能过大,mysql有innodb_log_buffer_size配置项,事务超出这个时,会刷磁盘,导致性能下降;
2、乱序插入时候速度超过innodb_buffer的容量,每次定位索引涉及较多的磁盘读写操作,性能下降较快;
测试结果
环境:i5-4200u 1.6ghz,12g内存,固态硬盘
\ | :单条插入: | :单条预编译: | :单条插入多条: | :事务插入: |
---|---|---|---|---|
1000 | 4600毫秒 | 3334毫秒 | 8毫秒 | 704毫秒 |
10000 | 27204毫秒 | 26249毫秒 | 2959毫秒 | 2959毫秒 |
100000 | 240954毫秒 | 254716毫秒 | 17286毫秒 | 20539毫秒 |
总结
采用合并sql+事务插入组合,效率最高,乱序插入时候速度超过innodb_buffer的容量,每次定位索引涉及较多的磁盘读写操作,性能下降较快;尽量采用非乱序方式即可。以上为个人经验,希望能给大家一个参考,也希望大家多多支持。
下一篇: java面试知识体系
推荐阅读
-
mysql 记录不存在时插入 记录存在则更新的实现方法
-
MySQL与Oracle查询一条语句,如果有则更新,无则添加的实例讲解
-
mysql如果数据不存在,则插入新数据,否则更新的实现方法(实例)
-
MySql学习之播放记录,有则增加计数,无则新增(操作实例)
-
MySql 如何实现无则插入有则更新
-
mysql 存在该记录则更新,不存在则插入记录的sql
-
mysql如果数据不存在,则插入新数据,否则更新的实现方法
-
mysql如果数据不存在,则插入新数据,否则更新的实现方法
-
关于MongoDB中如何做到对已有数据插入时更新字段,不存在时则插入新的Document
-
mysql触发器的问题 能否使用触发器控制某字段一旦有值则拒绝更新