PHP如何快速讀取大檔案

原文:

php如何快速讀取大檔案

在php中，對於檔案的讀取時，最快捷的方式莫過於使用一些諸如file、file_get_contents之類的函式，簡簡單單的幾行**就能很漂亮的完成我們所需要的功能。但當所操作的檔案是乙個比較大的檔案時，這些函式可能就顯的力不從心, 下面將從乙個需求入手來說明對於讀取大檔案時，常用的操作方法。

需求需求

有乙個800m的日誌檔案，大約有500多萬行，用php返回最後幾行的內容。

實現方法

1. 直接採用file函式來操作

由於 file函式是一次性將所有內容讀入記憶體，而php為了防止一些寫的比較糟糕的程式占用太多的記憶體而導致系統記憶體不足，使伺服器出現宕機，所以預設情況下限制只能最大使用記憶體16m,這是通過php.ini裡的 memory_limit = 16m 來進行設定，這個值如果設定-1，則記憶體使用量不受限制。

下面是一段用file來取出這具檔案最後一行的**：

1    <?php
2    ini_set('memory_limit', '-1');
3    $file = 'access.log';
4    $data = file($file
);5    $line = $data[count($data) - 1];
6    echo
$line
;7    ?>

整個**執行完成耗時 116.9613 (s)。

我機器是2個g的記憶體，當按下f5執行時，系統直接變灰，差不多20分鐘後才恢復過來，可見將這麼大的檔案全部直接讀入記憶體，後果是多少嚴重，所以不在萬不得以，memory_limit這東西不能調得太高，否則只有打**給機房，讓reset機器了。

2.直接呼叫linux的 tail 命令來顯示最後幾行

在linux命令列下，可以直接使用 tail -n 10 access.log 很輕易的顯示日誌檔案最後幾行，可以直接用php來呼叫tail命令，執行php**如下:

1    <?php
2    $file = 'access.log';
3    $file = escapeshellarg($file); //
對命令列引數進行安全轉義
4    $line = `tail -n 1 $file
`;5    echo
$line
;6    ?>

整個**執行完成耗時 0.0034 (s)

3. 直接使用php的 fseek 來進行檔案操作

這種方式是最為普遍的方式，它不需要將檔案的內容全部讀入內容，而是直接通過指標來操作，所以效率是相當高效的。在使用fseek來對檔案進行操作時，也有多種不同的方法，效率可能也是略有差別的，下面是常用的兩種方法：

方法一首先通過fseek找到檔案的最後一位eof，然後找最後一行的起始位置，取這一行的資料，再找次一行的起始位置，再取這一行的位置，依次類推，直到找到了$num行。

#實現**如下

01    <?php
02    $fp = fopen($file, "r");
03    $line = 10;
04    $pos = -2;
05    $t = " ";
06    $data = "";
07    while ($line > 0)
0815        $t = " ";
16        $data .= fgets($fp
);17        $line--;
18}19    fclose($fp
);20    echo
$data
21    ?>

整個**執行完成耗時 0.0095 (s)

方法二還是採用fseek的方式從檔案最後開始讀，但這時不是一位一位的讀，而是一塊一塊的讀，每讀一塊資料時，就將讀取後的資料放在乙個buf裡，然後通過換行符(\n)的個數來判斷是否已經讀完最後$num行資料。

#實現**如下

01    <?php
02    $fp = fopen($file, "r");
03    $num = 10;
04    $chunk = 4096;
05    $fs = sprintf("%u", filesize($file
));06    $max = (intval($fs) == php_int_max) ? php_int_max : filesize($file
);07    for ($len = 0; $len
< $max; $len += $chunk
)08$!", $readdata, $match
);15            $data = $match[0];
16            break
;17}
18}19    fclose($fp
);20    echo
$data
;21    ?>

整個**執行完成耗時 0.0009(s)。

方法三

01    <?php
02    function tail($fp, $n, $base = 5)
0313            catch (exception$e)
1418            $pos *= $base
;19            while (!feof($fp
))20
23}24     
25        return
array_slice($lines, 0, $n
);26}
27     
28    var_dump(tail(fopen("access.log", "r+"), 10));
29    ?>

整個**執行完成耗時 0.0003(s)

PHP如何快速讀取大檔案

PHP如何快速讀取大檔案

PHP如何快速讀取大檔案

PHP幾個快速讀取大檔案例子

相關推薦