博文記錄
PHP 2019-09-04 15:22:51 354 0

PHP读取大文件源码示例,通过PHP读取过大、超大型文件的思路及解决方案。

在日常读取文件时,若文件 不是很大,通常使用file_get_contents,将内容一次性载入的变量中,也可以远程加载网页或者远端文件。

若加载超过PHP限制的内存大小,或者超过本机内存大小的文件进程就会报错或者崩掉。

为了解决这个问题,我们采用使用完毕并释放的原则来读取大文件。

单线程读入

如果不考虑多线程的情况下,单线程读取大文件采用while fread就可以实现。

如下代码

$handle = fopen("./big.txt", "rb");
while (!feof($handle)) {
  $contents = fread($handle, 8192);
  // 业务处理
  unset($contents); // 释放掉变量
}
fclose($handle);

feof是判断是否到文件尾,如果没有到文件尾,则会一直while循环,并执行读取操作。每次读取8192字节,然后使用过后将其释放掉。

 

往往很多文件并不是一行的,有多行内容。需要将每行内容读取出来当做一条数据处理,也可以使用fgets。

即如下代码:

$handle = fopen("./big.txt", "rb");
while (!feof($handle)) {
  $contents = fgets($handle, 1024);
  // 业务处理
  unset($contents); // 释放掉变量
}
fclose($handle);

这里的fgets第二个参数,默认为1024字节。即默认读取一行数据,如果一行数据小于1024字节,则完整读取。如果超出1024字节,则只取前1024字节。遇到换行符"\n"或者"\r\n"或者结束符会停止读取。

如果遇到变态的文件,很多行都只有1000长度,某一行有8000长度,如果在不清楚的情况下,就很难掌控,若要完整读取就需要指定读取的最大字节,8000才能将每一行完整读取。

 

还有一种方法就是自己处理换行符。默认读取1024字节,然后放置到内存中,使用过后再将其释放。这种操作很节省内存,但是在逻辑处理上需要自己处理换行符。

如,读取1024字节,没有换行符,则保存数据继续读取。再读取1024字节,判断其中是否有换行符,如果有则处理最开始到换行符中的数据。再将剩下的数据保存,等待下一次读取,直到整个文件读取完毕。

$handle = fopen("./big.txt", "rb");
$contents = "";
while (!feof($handle)) {
  $contents .= fread($handle, 8192);

  // 判断读取到的内容是否包含换行符,包含则进入循环体
  while(strpos($contents, "\n") !== false){
      $eol_pos= strpos($contents, "\n");
      $line = substr($contents, 0, $eol_pos);
      // $line为一行的数据,进行业务处理,并释放
      unset($line);

      $contents = substr($eol_pos, 0);// 将剩余内容放置到变量中以供下次使用
  }
}
fclose($handle);

 

多线程读取

PHP默认没有多线程,这里可以采用多进程的方式实现,或者swoole的多进程来实现。

例如读取一个8GB文件,分8个线程,每个线程读取1GB数据内容。或者更多线程进行拆分工作内容。

获取文件大小

首先第一步,就是获取整个文件的体积大小,然后计算每个线程应该负责处理的一部分内容。

function length($filename)
{
	$handle = fopen($filename, "rb");
	$currentPos = ftell($handle);
	fseek($handle, 0, SEEK_END);
	$length = ftell($handle);
	fseek($handle, $currentPos);
	// $length 文件总长度
	return $length;
}
echo length("./big.txt");

 

处理逻辑实现过程

这里主要说明下作了哪些内容,首先是设定分配总的线程数。然后根据设置的线程数,计算每个线程要读取的数据大小,即从哪里开始读,读到哪里结束。

然后必定会出现拆分后,读到不完整行的情况,在这里来解决这种前半行或者后半行的意外情况。

解决逻辑就是,假设线程开始的读取位置在某一行的中间,我们一个字符向前移动,移动到上个换行符(也可能是最开始)即可获取到整行文本内容。

处理掉残行数据之后,使用yield来传递数据给业务处理。

$filename = "./big.txt";
$maxProcess = 8;// 分配8个线程


$length = length($filename);
$singleProcessLength = ceil($length / $maxProcess);

// 线程负责读取的内容
function processRead($filename, $index, $singleProcessLength)
{
	$fh = fopen($filename, 'r');
	
	$beginPos = $index * $singleProcessLength;
	//结束位置=线程序列*线程处理数据长度+线程处理数据 - 1 (长度转指针,实际结束指针小于结束长度)
	$endPos = $index * $singleProcessLength + $singleProcessLength - 1;

	fseek($fh, $beginPos);
	echo '线程:' . $index . ',起始位置:' . $beginPos . ',结束位置:' . $endPos . PHP_EOL;
	//移动到上个\n 以便首次顺利获取整行内容
	while (fseek($fh, -1, SEEK_CUR) === 0) {
		if (fread($fh, 1) == "\n" || ftell($fh) <= 0) {
			break;
		}
		fseek($fh, -1, SEEK_CUR);
	}
	echo '线程:' . $index . ',移动完毕!!!!!' . PHP_EOL;

	//整行读取数据
	//结束时位置超过预计结束位置是正常状况,fgets 读取一整行内容
	//预计结束位置可能在行内,所以产生不同结果。
	while (ftell($fh) <= $endPos && !feof($fh)) {
		yield $raw = fgets($fh);
	}
	echo '进程' . $index . '结束时 指针位置:' . ftell($fh) . ', 应该到:' . $endPos . PHP_EOL;
	fclose($fh);
}

foreach(range(0,$maxProcess - 1) as $index){
	// 多线程采用多线程的方式创建,这里采用yield回调。
	foreach(processRead($filename, $index, $singleProcessLength) as $value){
        // $value为每一行的内容,处理后释放
        unset($value);
    } 
}

 

如上所述就是PHP的大文件读取解决方案,大部分用于多线程读取大文件场景。

PaulNam

2019-11-28 20:59

<a href="https://elimite2.com/">elimite cream</a>

MarkNam

2019-12-01 01:33

<a href="https://elimite2.com/">where to buy elimite</a>

LisaNam

2019-12-01 22:22

<a href="http://elimite2.com/">generic elimite cream</a>

MaryNam

2019-12-02 18:45

<a href="https://elimite2.com/">where can i buy elimite cream</a>

igaloacu

2019-12-07 11:38

http://mewkid.net/where-is-xena/ - Buy Amoxicillin <a href="http://mewkid.net/where-is-xena/">Amoxicillin</a> win.syan.eller.tech.fdm.vj http://mewkid.net/where-is-xena/

icexutetepok

2019-12-07 12:12

http://mewkid.net/where-is-xena/ - Amoxicillin 500 Mg <a href="http://mewkid.net/where-is-xena/">Amoxicillin On Line</a> dgz.tlif.eller.tech.grb.ap http://mewkid.net/where-is-xena/

azuhuhw

2019-12-07 12:44

http://mewkid.net/where-is-xena/ - Amoxicillin Online <a href="http://mewkid.net/where-is-xena/">Amoxicillin 500 Mg</a> igg.dlnf.eller.tech.otw.md http://mewkid.net/where-is-xena/

izicupeta

2019-12-07 13:19

http://mewkid.net/where-is-xena/ - Amoxil <a href="http://mewkid.net/where-is-xena/">Amoxicillin 500 Mg</a> kzr.psyr.eller.tech.uvd.ny http://mewkid.net/where-is-xena/

PaulNam

2019-12-13 12:34

<a href="https://elimite2.com/">generic elimite cream price</a>

MarkNam

2019-12-16 03:00

<a href="https://elimite2.com/">elimite price online</a>

LisaNam

2019-12-16 11:45

<a href="http://elimite2.com/">elimite cream cost</a>

發表評論
StudioEIM - 冒险者讲习所
0:00