PHP实现实时生成并下载超大数据量的EXCEL文件详解

前言

最近在工作中接到一个需求，通过选择的时间段导出对应的用户访问日志到excel中， 由于用户量较大，经常会有导出50万加数据的情况。而常用的phpexcel包需要把所有数据拿到后才能生成excel， 在面对生成超大数据量的excel文件时这显然是会造成内存溢出的，所以考虑使用让php边写入输出流边让浏览器下载的形式来完成需求。

我们通过如下的方式写入php输出流

$fp = fopen('php://output', 'a');
fputs($fp, 'strings');
....
....
fclose($fp)

php://output是一个可写的输出流，允许程序像操作文件一样将输出写入到输出流中，php会把输出流中的内容发送给web服务器并返回给发起请求的浏览器

另外由于excel数据是从数据库里逐步读出然后写入输出流的所以需要将php的执行时间设长一点（默认30秒）set_time_limit(0)不对php执行时间做限制。

注：以下代码只是阐明生成大数据量excel的思路和步骤，并且在去掉项目业务代码后程序有语法错误不能拿来直接运行，请根据自己的需求填充对应的业务代码！

 /**
  * 文章访问日志
  * 下载的日志文件通常很大, 所以先设置csv相关的header头, 然后打开
  * php output流, 渐进式的往output流中写入数据, 写到一定量后将系统缓冲冲刷到响应中
  * 避免缓冲溢出
  */
 public function articleaccesslog($timestart, $timeend)
 {
  set_time_limit(0);
  $columns = [
   '文章id', '文章标题', ......
  ];
  $csvfilename = '用户日志' . $timestart .'_'. $timeend . '.xlsx';
  //设置好告诉浏览器要下载excel文件的headers
  header('content-description: file transfer');
  header('content-type: application/vnd.ms-excel');
  header('content-disposition: attachment; filename="'. $filename .'"');
  header('expires: 0');
  header('cache-control: must-revalidate');
  header('pragma: public');
  $fp = fopen('php://output', 'a');//打开output流
  mb_convert_variables('gbk', 'utf-8', $columns);
  fputcsv($fp, $columns);//将数据格式化为csv格式并写入到output流中
  $accessnum = '1000000'//从数据库获取总量，假设是一百万
  $persize = 1000;//每次查询的条数
  $pages = ceil($accessnum / $persize);
  $lastid = 0;
  for($i = 1; $i <= $pages; $i++) {
   $accesslog = $logservice->getarticleaccesslog($timestart, $timeend, $lastid, $persize);
   foreach($accesslog as $access) {
    $rowdata = [
     ......//每一行的数据
    ];
    mb_convert_variables('gbk', 'utf-8', $rowdata);
    fputcsv($fp, $rowdata);
    $lastid = $access->id;
   }
   unset($accesslog);//释放变量的内存
   //刷新输出缓冲到浏览器
   ob_flush();
   flush();//必须同时使用 ob_flush() 和flush() 函数来刷新输出缓冲。
  }
  fclose($fp);
  exit();
 }

好了， 其实很简单，就是用逐步写入输出流并发送到浏览器让浏览器去逐步下载整个文件，由于是逐步写入的无法获取文件的总体size所以就没办法通过设置header("content-length: $size");在下载前告诉浏览器这个文件有多大了。不过不影响整体的效果这里的核心问题是解决大文件的实时生成和下载。

总结

以上就是这篇文章的全部内容了，希望本文的内容对大家的学习或者工作具有一定的参考学习价值，如果有疑问大家可以留言交流，谢谢大家对的支持。