@[toc]
单线程读入
如果不考虑多线程的情况下,单线程读取大文件采用while fread就可以实现。
$handle = fopen("./big.txt", "rb");
while (!feof($handle)) {
{
mathJaxContainer[0]}handle, 8192);
// 业务处理
unset($contents); // 释放掉变量
}
fclose($handle);
feof是判断是否到文件尾,如果没有到文件尾,则会一直while循环,并执行读取操作。每次读取8192字节,然后使用过后将其释放掉。
往往很多文件并不是一行的,有多行内容。需要将每行内容读取出来当做一条数据处理,也可以使用fgets。
$handle = fopen("./big.txt", "rb");
while (!feof($handle)) {
{
mathJaxContainer[1]}handle, 1024);
// 业务处理
unset($contents); // 释放掉变量
}
fclose($handle);
这里的fgets第二个参数,默认为1024字节。即默认读取一行数据,如果一行数据小于1024字节,则完整读取。如果超出1024字节,则只取前1024字节。遇到换行符"\n"或者"\r\n"或者结束符会停止读取。
如果遇到变态的文件,很多行都只有1000长度,某一行有8000长度,如果在不清楚的情况下,就很难掌控,若要完整读取就需要指定读取的最大字节,8000才能将每一行完整读取。
还有一种方法就是自己处理换行符。默认读取1024字节,然后放置到内存中,使用过后再将其释放。这种操作很节省内存,但是在逻辑处理上需要自己处理换行符。
如,读取1024字节,没有换行符,则保存数据继续读取。再读取1024字节,判断其中是否有换行符,如果有则处理最开始到换行符中的数据。再将剩下的数据保存,等待下一次读取,直到整个文件读取完毕。
$handle = fopen("./big.txt", "rb");
$contents = "";
while (!feof($handle)) {
{
mathJaxContainer[2]}handle, 8192);
// 判断读取到的内容是否包含换行符,包含则进入循环体
while(strpos($contents, "\n") !== false){
{
mathJaxContainer[3]}contents, "\n");
{
mathJaxContainer[4]}contents, 0, $eol_pos);
// $line为一行的数据,进行业务处理,并释放
unset($line);
{
mathJaxContainer[5]}eol_pos, 0);// 将剩余内容放置到变量中以供下次使用
}
}
fclose($handle);
多线程读取
PHP默认没有多线程,这里可以采用多进程的方式实现,或者swoole的多进程来实现。
例如读取一个8GB文件,分8个线程,每个线程读取1GB数据内容。或者更多线程进行拆分工作内容。
获取文件大小
首先第一步,就是获取整个文件的体积大小,然后计算每个线程应该负责处理的一部分内容。
function length($filename)
{
{
mathJaxContainer[6]}filename, "rb");
{
mathJaxContainer[7]}handle);
fseek($handle, 0, SEEK_END);
{
mathJaxContainer[8]}handle);
fseek({
mathJaxContainer[9]}currentPos);
// $length 文件总长度
return $length;
}
echo length("./big.txt");
处理逻辑实现过程
这里主要说明下作了哪些内容,首先是设定分配总的线程数。然后根据设置的线程数,计算每个线程要读取的数据大小,即从哪里开始读,读到哪里结束。
然后必定会出现拆分后,读到不完整行的情况,在这里来解决这种前半行或者后半行的意外情况。
解决逻辑就是,假设线程开始的读取位置在某一行的中间,我们一个字符向前移动,移动到上个换行符(也可能是最开始)即可获取到整行文本内容。
处理掉残行数据之后,使用yield来传递数据给业务处理。
$filename = "./big.txt";
$maxProcess = 8;// 分配8个线程
{
mathJaxContainer[10]}filename);
{
mathJaxContainer[11]}length / $maxProcess);
// 线程负责读取的内容
function processRead({
mathJaxContainer[12]}index, $singleProcessLength)
{
{
mathJaxContainer[13]}filename, 'r');
{
mathJaxContainer[14]}index * $singleProcessLength;
//结束位置=线程序列*线程处理数据长度+线程处理数据 - 1 (长度转指针,实际结束指针小于结束长度)
{
mathJaxContainer[15]}index * {
mathJaxContainer[16]}singleProcessLength - 1;
fseek({
mathJaxContainer[17]}beginPos);
echo '线程:' . {
mathJaxContainer[18]}beginPos . ',结束位置:' . $endPos . PHP_EOL;
//移动到上个\n 以便首次顺利获取整行内容
while (fseek($fh, -1, SEEK_CUR) === 0) {
if (fread({
mathJaxContainer[19]}fh) <= 0) {
break;
}
fseek($fh, -1, SEEK_CUR);
}
echo '线程:' . $index . ',移动完毕!!!!!' . PHP_EOL;
//整行读取数据
//结束时位置超过预计结束位置是正常状况,fgets 读取一整行内容
//预计结束位置可能在行内,所以产生不同结果。
while (ftell({
mathJaxContainer[20]}endPos && !feof($fh)) {
yield {
mathJaxContainer[21]}fh);
}
echo '进程' . {
mathJaxContainer[22]}fh) . ', 应该到:' . $endPos . PHP_EOL;
fclose($fh);
}
foreach(range(0,{
mathJaxContainer[23]}index){
// 多线程采用多线程的方式创建,这里采用yield回调。
foreach(processRead({
mathJaxContainer[24]}index, {
mathJaxContainer[25]}value){
// $value为每一行的内容,处理后释放
unset($value);
}
}
如上所述就是PHP的大文件读取解决方案,大部分用于多线程读取大文件场景。