PHP對大檔案的處理思路

2021-07-07 07:46:26 字數 2375 閱讀 2150

需求： 現有乙個1g左右的日誌檔案，大約有500多萬行， 用php返回最後幾行的內容。

在php中，對於檔案的讀取時，最快捷的方式莫過於使用一些諸如file、file_get_contents之類的函式，簡簡單單的幾行**就能很漂亮的完成我們所需要的功能。但當所操作的檔案是乙個比較大的檔案時，這些函式可能就顯的力不從心, 下面將從乙個需求入手來說明對於讀取大檔案時，常用的操作方法。

直接採用file函式來操作

由於 file函式是一次性將所有內容讀入記憶體，而php為了防止一些寫的比較糟糕的程式占用太多的記憶體而導致系統記憶體不足，使伺服器出現宕機，所以預設情況下限制只能最大使用記憶體16m,這是通過php.ini裡的memory_limit = 16m來進行設定，這個值如果設定-1，則記憶體使用量不受限制。

下面是一段用file來取出這具檔案最後一行的**。**執行大概2分鐘左右。

$fp = fopen($file, "r");


$num = 10;


$chunk = 4096;


$fs = sprintf("%u", filesize($file));


$max = (intval($fs) == php_int_max) ? php_int_max : filesize($file);


for ($len = 0; $len


< $max; $len += $chunk) $!", $readdata, $match);


$data = $match[0];


break;


}}fclose($fp);


echo $data;
我機器是2個g的記憶體，當按下f5執行時，系統直接變灰，差不多20分鐘後才恢復過來，可見將這麼大的檔案全部直接讀入記憶體，後果是多少嚴重，所以不在萬不得以，memory_limit這東西不能調得太高，否則只有打**給機房，讓reset機器了。

2.直接呼叫linux的tail命令來顯示最後幾行

在linux命令列下,可以直接使用tail -n 10 access.log很輕易的顯示日誌檔案最後幾行,可以直接用php來呼叫tail命令,執行php**如下.整個**執行完成耗時 0.0034 (s)

file = 'access.log';


$file = escapeshellarg($file); // 對命令列引數進行安全轉義


$line = `tail -n 1


$file`;


echo


$line;
直接使用php的fseek來進行檔案操作

這種方式是最為普遍的方式,它不需要將檔案的內容全部讀入記憶體,而是直接通過指標來操作,所以效率是相當高效的.在使用fseek來對檔案進行操作時,也有多種不同的方法,效率可能也是略有差別的,下面是常用的兩種方法.

方法一：

首先通過fseek找到檔案的最後一位eof，然後找最後一行的起始位置，取這一行的資料，再找次一行的起始位置，再取這一行的位置，依次類推，直到找到了$num行。

function


tail


($fp,$n,$base=5)


catch (exception


$e)        $pos *= $base;


while(!feof($fp))


}return array_slice($lines,0,$n);


}var_dump(tail(fopen("access.log","r+"),10));
方法二:

還是採用fseek的方式從檔案最後開始讀,但這時不是一位一位的讀,而是一塊一塊的讀,每讀一塊資料時,就將讀取後的資料放在乙個buf裡,然後通過換行符(\n)的個數來判斷是否已經讀完最後$num行資料.

$fp = fopen($file, "r");


$line = 10;


$pos = -2;


$t = " ";


$data = "";


while ($line > 0) 


$t = " ";


$data .= fgets($fp);


$line --;


}fclose ($fp);


echo


$data


方法三:


ini_set('memory_limit','-1');


$file = 'access.log';


$data = file($file);


$line = $data[count($data)-1];


echo


$line;

PHP對大檔案的處理思路

需求 現有乙個1g左右的日誌檔案，大約有500多萬行，用php返回最後幾行的內容。在php中，對於檔案的讀取時，最快捷的方式莫過於使用一些諸如file file get contents之類的函式，簡簡單單的幾行 就能很漂亮的完成我們所需要的功能。但當所操作的檔案是乙個比較大的檔案時，這些函式可能就...

PHP對大檔案的處理思路

需求 現有乙個1g左右的日誌檔案，大約有500多萬行，用php返回最後幾行的內容。在php中，對於檔案的讀取時，最快捷的方式莫過於使用一些諸如file file get contents之類的函式，簡簡單單的幾行 就能 很漂亮的完成我們所需要的功能。但當所操作的檔案是乙個比較大的檔案時，這些函式可能...

php匯出csv大檔案處理

下面直接上 吧 set time limit 0 filename 遊戲使用者日誌細表 ini set memory limit 1024m 設定程式執行的記憶體 ini set max execution time 0 設定程式的執行時間,0為無上限 ob end clean 清除記憶體 ob s...