欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  后端开发

如何用box/spout解析大型Excel表格

程序员文章站 2022-03-29 19:55:58
...
PHP解析Excel有个比较有名的库是phpoffice/phpexcel。在实际使用的过程中,遇到上万行的Excel时,phpexcel的内存使用量会飙升。今天我来介绍另一个高效解析Excel的PHP库box/spout。

如何用box/spout解析大型Excel表格

看官方介绍是:Read and write spreadsheet files in a fast and scalable way,可见这个库在解析Excel时,Excel文件的大小不会太影响内存的使用量。可以说是PHPExcel一种替代方案。

由于box/spout库的Github主页上的文档链接已经挂了,这里简单写了一个XLSX文件转化成CSV的例子:

include 'vendor/autoload.php';
use Box\Spout\Reader\ReaderFactory;
use Box\Spout\Common\Type;

$t = time();
$reader = ReaderFactory::create(Type::XLSX);
//如果注释掉,单元格内的日期类型将会是DateTime,不注释的话Spout自动帮你将日期转化成string
//$reader->setShouldFormatDates(true);
$reader->open('./test.xlsx');
$iterator = $reader->getSheetIterator();
$iterator->rewind();
$sheet1 = $iterator->current();
$rowIter = $sheet1->getRowIterator();
foreach ($rowIter as $row) {
    $d = '';
    foreach ($row as $col) {
        echo $d;
        if ($col instanceof DateTime) {
            echo $col->format('Y-m-d');
        } else {
            echo $col;
        }
        $d = "\t";
    }
    echo PHP_EOL;
}
$reader->close();

使用方法还是很简洁明了的。

使用内存缓存String字典

前面说到box/spout在解析时消耗的内存大小,不受Excel文件大小的影响,这是如何做到的呢?

这里简单科普一下:XLSX文件格式是符合一项标准的,这项标准叫做OOXML(https://zh.wikipedia.org/zh-cn/Office_Open_XML)。XLSX实际上就是一个Zip包,可以解压缩出来看看其中的内容。

XLSX表格中,如果单元格的内容是一串字符串时,实际保存的时候只保存一个stringId,字符串真正的内容保存在一个String字典中。

在读取XLSX文件时,如果单元格是字符串,Spout就要去查询String字典。Spout有两种查询方法,一是每次从文件里读取字典的一部分查询,二是把整个字典加载到内存里查询。

显然把String字典整个加载到内存里,查询速度最快。但Spout过于保守,很多情况下都是采用第一种查询方式。所以稍微修改下Spout的代码,让Spout尽量把字典全部加载到内存:

# Spout/Reader/XLSX/Helper/SharedStringsCaching/CachingStrategyFactory.php
class CachingStrategyFactory {
  ....
  const MAX_NUM_STRINGS_PER_TEMP_FILE = 10000; // 改成50000
  ....
}

试验一个1.3w行、28列、2.8MB大小的EXCEL转化成CSV,做个对比:

方式 耗时 占用内存
字典不加载到内存 185 s 1.3 MB
字典加载到内存 43 s 9.4 MB

可见处理时间相差还是挺大的。

推荐学习:php视频教程

以上就是如何用box/spout解析大型Excel表格的详细内容,更多请关注其它相关文章!

相关标签: box/spout