mysql 循环批量插入

背景

前几天在mysql上做分页时，看到有博文说使用 limit 0,10 方式分页会有丢数据问题，有人又说不会，于是想自己测试一下。测试时没有数据，便安装了一个mysql，建了张表，在建了个while循环批量插入10w条测试数据的时候，执行时间之长无法忍受，便查资料找批量插入优化方法，这里做个笔记。

数据结构

寻思着分页时标准列分主键列、索引列、普通列3种场景，所以，测试表需要包含这3种场景，建表语法如下：

drop table if exists `test`.`t_model`;

create table `test`.`t_model`(  
  `id` bigint not null auto_increment comment '自增主键',
  `uid` bigint comment '业务主键',
  `modelid` varchar(50) comment '字符主键',
  `modelname` varchar(50) comment '名称',
  `desc` varchar(50) comment '描述',
  primary key (`id`),
  unique index `uid_unique` (`uid`),
  key `modelid_index` (`modelid`) using btree
) engine=innodb charset=utf8 collate=utf8_bin;

为了方便操作，插入操作使用存储过程通过while循环插入有序数据，未验证其他操作方式或循环方式的性能。

执行过程

1、使用最简单的方式直接循环单条插入1w条，语法如下：

drop procedure if exists my_procedure; 

delimiter //
create procedure my_procedure()
begin
  declare n int default 1;
  while n < 10001 do
    insert into t_model (uid,modelid,modelname,`desc`) value (n,concat('id20170831',n),concat('name',n),'desc'); 
    set n = n + 1;
  end while;
end
//
　　　　　　　　　　　　　　　
delimiter ;

插入1w条数据，执行时间大概在6m7s，按照这个速度，要插入1000w级数据，估计要跑几天。
2、于是，构思加个事务提交，是否能加快点性能呢？测试每1000条就commit一下，语法如下：

delimiter //
create procedure u_head_and_low_pro()
begin
  declare n int default 17541;
    while n < 10001 do
            insert into t_model (uid,modelid,modelname,`desc`) value (n,concat('id20170831',n),concat('name',n),'desc'); 
            set n = n + 1;
            if n % 1000 = 0 
            then
                commit;
            end if;
  end while;
end
//
delimiter ;

执行时间 6 min 16 sec，与不加commit执行差别不大，看来，这种方式做批量插入，性能是很低的。

3、使用存储过程生成批量插入语句执行批量插入插入1w条，语法如下：

drop procedure if exists u_head_and_low_pro;

delimiter $$
create procedure u_head_and_low_pro()
begin
  declare n int default 1;
  set @exesql = 'insert into t_model (uid,modelid,modelname,`desc`) values ';
  set @exedata = '';

  while n < 10001 do
    set @exedata = concat(@exedata,"(",n,",","'id20170831",n,"','","name",n,"','","desc'",")");

    if n % 1000 = 0 
    then
      set @exesql = concat(@exesql,@exedata,";");

      prepare stmt from @exesql;
      execute stmt;
      deallocate prepare stmt;
      commit;  

      set @exesql = 'insert into t_model (uid,modelid,modelname,`desc`) values ';
      set @exedata = "";
    else
      set @exedata = concat(@exedata,',');
    end if;

    set n = n + 1;
  end while;
end;$$ 
delimiter ;

执行时间 3.308s。

总结

批量插入时，使用insert的values批量方式插入，执行速度大大提升。