场景和痛点
说明
我们工作场景都常会导出相关的excel数据,有时候需要大量的数据,10W,100W都有可能我们现有方案都是直接利用phpexcel等类库来操作,phpexcel的load加载或是写入一次导出会遇到超时内存和时间限制问题,就算我们ini_set依旧不是最好的方案
下面我们利用php输出csv,把数据依次输出清空再输出的方式到输出终端(浏览器访问就是浏览器输出)
编写过程
说明
关键具体在代码里注释
代码
$v) { $column_name[$i] = iconv('utf-8', 'GBK', $v);}// 将标题名称通过fputcsv写到文件句柄fputcsv($fp, $column_name);$export_data = [];for ($i = 0; $i < 10; $i++) { foreach (range(1, 100000) as $k => $v) { $export_data[] = [ "XXX" . $v, "XXX" . $v, "XXX" . $v, "XXX" . $v, "XXX" . $v, "XXX" . $v, "XXX" . $v, "XXX" . $v, "XXX" . $v, "XXX" . $v ]; } foreach ($export_data as $item) { $rows = array(); foreach ($item as $export_obj) { $rows[] = iconv('utf-8', 'GBK', $export_obj); } fputcsv($fp, $rows); } $export_data = []; //重新复制,释放掉旧数据}fclose($fp);$endTime = microtime(true);$memoryUse = memory_get_usage();file_put_contents("11.log", "内存占用:" . convert($memoryUse) . "; 用时:" . ($endTime - $startTime) . PHP_EOL, 8);exit(0);
结果
测试说明
我们模拟数据,输入了100万(10000 * 10)数据
日志记录内存使用率
# 文件大小:84.7 MB (88,889,540 字节)# 这里的用时因为业务模拟,所以具体根据操作业务数据可能会更长,内存占用同理内存占用:118.99 kb; 用时:74.375253915787