【发布时间】:2014-11-15 01:40:40
【问题描述】:
我在处理 XLS 文件时遇到了 PHPExcel 的内存问题。 我必须处理相当大的文件(在 50k 和 200k 行之间,以及 9-10 列),所以我不得不使用 ReadFilters 来解决内存问题。
然而,虽然它在 XLSX 文件上运行得很好,使用后台进程和一些简单的块大小计算,但我无法让它适用于 XLS 文件。
这段代码让一切爆炸:
Class ExcelReadFilter implements PHPExcel_Reader_IReadFilter
{
private $startRow = 0;
private $endRow = 0;
public function setRows($startRow, $chunkSize) {
$this->startRow = $startRow;
$this->endRow = $startRow + $chunkSize;
}
public function readCell($column, $row, $worksheetName = '') {
if ( ($row >= $this->startRow && $row < $this->endRow) ) {
return true;
}
return false;
}
}
PHPExcel_Settings::setCacheStorageMethod( PHPExcel_CachedObjectStorageFactory::cache_in_memory_serialized );
....
$filter = new ExcelReadFilter();
$filter->setRows($desde, $cuantas);
$reader = PHPExcel_IOFactory::createReader($this->file_type);
$reader->setLoadSheetsOnly($sheet_name);
$reader->setReadDataOnly(false);
$reader->setReadFilter($filter);
$chunk = $reader->load($this->file);
$chunk->setActiveSheetIndexByName($sheet_name);
$active_sheet = $chunk->getActiveSheet();
$rowIterator = $active_sheet->getRowIterator($desde);
$this->num_filas = $active_sheet->getHighestRow();
紧接着,我加入了以下几行,以便更好地了解正在发生的事情:
ob_start();
var_dump($rowIterator);
$f = fopen("excel-info.txt", "w");
fwrite($f, ob_get_clean());
fclose($f);
ob_end_clean();
die;
我认为它指出了内存问题的所在。 当我第一次上传原始 XLS 文件时,excel-info.txt 的大小为 13M。 然后我打开XLS文件保存为XLSX,重复这个过程,之后excel-info.txt只有285k了。
有什么方法可以修改这些过滤器以处理 XLS 文件?
哦,将 PHP 内存限制设置为更高的值不是一种选择,但执行时间并不重要。
添加
当我使用不同的内存缓存选项时,我能够将内存使用量减少到足以使其正常工作,并在大多数情况下将其保持在可接受的大小。
现在,我正在使用 PHPExcel_CachedObjectStorageFactory::cache_to_sqlite,它似乎足以让它工作。
我想指出,我对放入文件中的序列化信息所做的计算不正确。 Excel5 文件生成一个数组,其中包含与行一样多的记录,其中 Excel 文件的所有不满足过滤条件的值都设置为 NULL。当然,当我将它保存到文本文件时,会有类似...
array(10) {
["A"]=>
NULL
["B"]=>
NULL
["C"]=>
NULL
["D"]=>
NULL
["E"]=>
NULL
["F"]=>
NULL
["G"]=>
NULL
["H"]=>
NULL
["I"]=>
NULL
["J"]=>
NULL
}
...在文件中占用大量空间,但不应该在 php_memory 中,所以这是我的错。
现在,我正在使用此代码来跟踪内存使用情况:
for ( $i=1; $i < 20000; $i+=5000 ){
$filter->setRows($i, 5000);
echo "\n1- Usage: ".(memory_get_usage ()/1024)/1024;
$objPHPExcel = $reader->load($this->file);
echo "\n2- Usage: ".(memory_get_usage ()/1024)/1024;
$sheetData = $objPHPExcel->getActiveSheet()->toArray(null,true,true,true);
unset($sheetData);
unset($objPHPExcel);
echo "\n3- Usage: ".(memory_get_usage ()/1024)/1024;
}
用某个XLS文件,它显示:
第一次迭代 1- 用法:4.3859634399414 2- 用法:34.292671203613 3- 用法:34.68034362793
第二次迭代 1- 用法:34.68034362793 2-用法:34.68293762207 3- 用法:34.684982299805
同样的文件,保存为 XLSX 后:
第一次迭代 1- 用法:4.2780990600586 2-用法:6.9042129516602 3- 用法:7.2916641235352
第二次迭代 1- 用法:7.2916641235352 2-用法:7.5115432739258 3- 用法:7.2813568115234
但是,我必须说,在保存为 XLSX 后,大小减少了大约一半,因此我不能说这是错误还是预期的行为。
【问题讨论】:
-
读取过滤器应该与 Excel5 阅读器和 Excel2007 阅读器的工作方式相同......但如果您的内存紧张,那么您可能需要考虑使用 PHPExcel 的单元格缓存选项
-
也许他们应该这样做,但它显然表现出不同的行为。我不确定,也许我没有按预期使用过滤器,或者我确实错过了一些东西。我不确定内存限制,因为这是在共享服务器中,我必须小心。关于 Cell Caching Options,您能否指点我一些文档来尝试一下?
-
好的,给我一个工作示例来证明这确实是代码中的一个错误,我会看看它.....我已经放弃了花费数小时搜索错误报告没有可演示的示例,只是发现代码中没有任何问题
-
单元缓存在开发人员文档的第 4.2.1 节中进行了说明,标题为
Cell Caching- online version from the github wiki 的部分您在内存中使用序列化,但还有更多内存效率更高的选项可用,并且在内存中序列化实际上可能会增加内存使用量,具体取决于您的 PHP 版本 -
Ty 的链接,它帮助很大。
标签: php phpexcel phpexcelreader