出自:squall_liu
在利用python進行系統管理的時候,特別是同時操作多個檔案目錄,或者遠端控制多台主機,並行操作可以節約大量的時間。當被操作物件數目不大時,可以直接利用multiprocessing中的process動態成生多個程序,10幾個還好,但如果是上百個,上千個目標,手動的去限制程序數量卻又太過繁瑣,這時候程序池pool發揮作用的時候就到了。
pool可以提供指定數量的程序,供使用者呼叫,當有新的請求提交到pool中時,如果池還沒有滿,那麼就會建立乙個新的程序用來執行該請求;但如果池中的程序數已經達到規定最大值,那麼該請求就會等待,直到池中有程序結束,才會建立新的程序來它。這裡有乙個簡單的例子:
#!/usr/bin/env python
#coding=utf-8
""" author: squall
last modified: 2011-10-18 16:50
filename: pool.py
description: a ****** sample for pool class
"""from multiprocessing import pool
from time import sleep
deff(x):
for i in range(10):
print
'%s --- %s ' % (i, x)
sleep(1)
defmain
(): pool = pool(processes=3) # set the processes max number 3
for i in range(11,20):
pool.close()
pool.join()
if result.successful():
print
'successful'
if __name__ == "__main__":
main()
先建立容量為3的程序池,然後將f(i)依次傳遞給它,執行指令碼後利用ps aux | grep pool.py檢視程序情況,會發現最多隻會有三個程序執行。
pool.join()是用來等待程序池中的worker程序執行完畢,防止主程序在worker程序結束前結束。但必pool.join()必須使用在pool.close()或者pool.terminate()之後。其中close()跟terminate()的區別在於close()會等待池中的worker程序執行結束再關閉pool,而terminate()則是直接關閉。
result.successful()表示整個呼叫執行的狀態,如果還有worker沒有執行完,則會丟擲assertionerror異常。
利用multiprocessing下的pool可以很方便的同時自動處理幾百或者上千個並行操作,指令碼的複雜性也大大降低。
Python多程序併發操作中程序池Pool的應用
在利用python進行系統管理的時候,特別是同時操作多個檔案目錄,或者遠端控制多台主機,並行操作可以節約大量的時間。當被操作物件數目不大時,可以直接利用multiprocessing中的process動態成生多個程序,10幾個還好,但如果是上百個,上千個目標,手動的去限制程序數量卻又太過繁瑣,這時候...
python多程序併發
由於python下呼叫linux的shell命令都需要等待返回,所以常常我們設定的多執行緒都達不到效果,因此在呼叫shell命令不需要返回時,使用threading模組並不是最好的方法。python提供了非常好用的多程序包multiprocessing,你只需要定義乙個函式,python會替你完成其...
python併發之多程序
一 multiprocessing模組介紹 python中的多執行緒無法利用多核優勢,如果想要充分地使用多核cpu的資源 os.cpu count 檢視 在python中大部分情況需要使用多程序。python提供了multiprocessing。multiprocessing模組用來開啟子程序,並在...