這篇文章主要是從原理, 手冊和原始碼分析在php中查詢mysql返回大量結果時, 記憶體占用的問題, 同時對使用mysql c api也有涉及.
昨天, 有同事在php討論群裡提到, 他做的乙個專案由於mysql查詢返回的結果太多(達10萬條), 從而導致php記憶體不夠用. 所以, 他問, 在執行下面的**遍歷返回的mysql結果之前, 資料是否已經在記憶體中了? -
while ($row = mysql_fetch_assoc($result))
當然, 這種問題有許多優化的方法. 不過, 就這個問題來講, 我首先想到, mysql是經典的c/s(client/server, 客戶端/伺服器)模型, 在遍歷結果集之前, 底層的實現可能已經把所有的資料通過網路(假設使用tcp/ip)讀到了client的緩衝區, 也有另一種可能, 就是資料還在server端的傳送緩衝區裡, 並沒有傳給client.
在檢視php和mysql的原始碼之前, 我注意到php手冊裡有兩個功能相近的函式:
mysql_query()
mysql_unbuffered_query()
兩個函式的字面意思和說明證實了我的想法, 前乙個函式執行時, 會把所有的結果集從server端讀到client端的緩衝區中, 而後乙個則沒有, 這就是」unbuffered(未緩衝)」的意思.
那就是說, 如果用mysql_unbuffered_query()執行了一條返回大量結果集的sql語句, 在遍歷結果之前, php的記憶體是沒有被結果集占用的. 而用mysql_query()來執行同樣的語句的話, 函式返回時, php的記憶體占用便會急劇增加, 立即耗光記憶體.
如果閱讀php的相關**, 可以看到這兩個函式的實現上的異同:
/* /* }}} */
/* /* }}} */
兩個函式都呼叫了php_mysql_do_query(), 只差了第2個引數的不同, mysql_store_result和mysql_use_result. 再看php_mysql_do_query()的實現:
if(use_store == mysql_use_result) else
mysql_use_result()和mysql_store_result()是mysql的c api函式, 這兩個c api函式的區別就是後者把結果集從mysql server端全部讀取到了client端, 前者只是讀取了結果集的元資訊.
回到php, 使用mysql_unbuffered_query(), 可以避免記憶體的立即占用. 如果在遍歷的過程不對結果進行」php快取」(如放到某陣列中), 則整個執行過程雖然操作了十萬條或者百萬條或者更多的資料, 但php占用的記憶體始終是非常小的.
PHP查詢MySQL大量資料的記憶體
這篇文章主要是從原理，手冊和原始碼分析在php中查詢mysql返回大量結果時，記憶體占用的問題，同時對使用mysql c api也有涉及。昨天，有同事在php討論群裡提到，他做的乙個專案由於mysql查詢返回的結果太多 達10萬條 從而導致php記憶體不夠用。所以，他問，在執行下面的 遍歷返回的my...
PHP查詢MySQL大量資料的記憶體
這篇文章主要是從原理，手冊和原始碼分析在php中查詢mysql返回大量結果時，記憶體占用的問題，同時對使用mysql c api也有涉及。昨天，有同事在php討論群裡提到，他做的乙個專案由於mysql查詢返回的結果太多 達10萬條 從而導致php記憶體不夠用。所以，他問，在執行下面的 遍歷返回的my...
PHP查詢MySQL大量資料的記憶體
這篇文章主要是從原理，手冊和原始碼分析在php中查詢mysql返回大量結果時，記憶體占用的問題，同時對使用mysql c api也有涉及。昨天，有同事在php討論群裡提到，他做的乙個專案由於mysql查詢返回的結果太多 達10萬條 從而導致php記憶體不夠用。所以，他問，在執行下面的 遍歷返回的my...