大批量数据分批处理的推荐方式
程序员文章站
2022-06-15 15:03:38
...
对大批量数据进行增删改操作时,比较推荐以下方式。该方式通过先取出所有欲处理的数据,然后将该数据分批处理。而不是通过limit的方式进行分批处理。相对于limit的好处是:如果limit第一批数据没有全部更新,第二次limit取数的时候,可能会把第一次取到的数据再取一次。这样就会重复处理。
List<ListBvsBarcodesServiceDto> list =
estoreFinalRecognitionBarcodeMapper.listBvsBarcodes(monthTime, lastMonthTime);
Map<Integer, Integer> barcodeMap = new HashMap<>();
if (CheckEmptyUtil.isEmpty(list)) {
return false;
}
int totalCount = list.size();
// 计算页数
int pageNum = calTotalPageNum(totalCount);
for (int i = 0; i < pageNum; i++) {
int start = i * eachQueryNum;
int end = (i + 1) * eachQueryNum <= list.size() ? (i + 1) * eachQueryNum : list.size();
List<ListBvsBarcodesServiceDto> listTemp = new ArrayList<>(list.subList(start, end));
estoreFinalRecognitionBarcodeMapper.updateIsEstoreBarcodeMonthAndisSstoreBarcodeMonth(
listTemp);
}
上一篇: brew 安装报错 Running Homebrew as root is extremely dangerous and no longer supported.
下一篇: 什么是清真概念
推荐阅读