欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页

大批量数据分批处理的推荐方式

程序员文章站 2022-06-15 15:03:38
...

  对大批量数据进行增删改操作时,比较推荐以下方式。该方式通过先取出所有欲处理的数据,然后将该数据分批处理。而不是通过limit的方式进行分批处理。相对于limit的好处是:如果limit第一批数据没有全部更新,第二次limit取数的时候,可能会把第一次取到的数据再取一次。这样就会重复处理。

 List<ListBvsBarcodesServiceDto> list =
        estoreFinalRecognitionBarcodeMapper.listBvsBarcodes(monthTime, lastMonthTime);
    Map<Integer, Integer> barcodeMap = new HashMap<>();
    if (CheckEmptyUtil.isEmpty(list)) {
      return false;
    }
    int totalCount = list.size();
    // 计算页数
    int pageNum = calTotalPageNum(totalCount);
    for (int i = 0; i < pageNum; i++) {
      int start = i * eachQueryNum;
      int end = (i + 1) * eachQueryNum <= list.size() ? (i + 1) * eachQueryNum : list.size();
      List<ListBvsBarcodesServiceDto> listTemp = new ArrayList<>(list.subList(start, end));
      estoreFinalRecognitionBarcodeMapper.updateIsEstoreBarcodeMonthAndisSstoreBarcodeMonth(
          listTemp);
    }