當需要建立的子程序數量不多時,可以直接利用multiprocessing中的process成生多個程序,但如果是上百甚至上千個目標,手動的去建立程序的工作量巨大,此時就可以用到multiprocessing模組提供的pool方法。
初始化pool時,可以指定乙個最大程序數,當有新的請求提交到pool中時,如果池還沒有滿,那麼就會建立乙個新的程序用來執行該請求;但如果池中的程序數已經達到指定的最大值,那麼該請求就會等待,直到池中有程序結束,才會用之前的程序來執行新的任務
from multiprocessing import pool
import os, time, random
defworker
(msg)
: t_start = time.time(
)print
("%s開始執行,程序號為%d"
%(msg,os.getpid())
)# random.random()隨機生成0~1之間的浮點數
time.sleep(random.random()*
2) t_stop = time.time(
)print
(msg,
"執行完畢,耗時%0.2f"
%(t_stop-t_start)
)po = pool(3)
# 定義乙個程序池,最大程序數3
for i in
range(0
,10):
(i,)
)print
("----start----"
)po.close(
)# 關閉程序池,關閉後po不再接收新的請求
po.join(
)# 等待po中所有子程序執行完成,再執行下面的**,可以設定超時時間join(timeout=)
print
("-----end-----"
)
執行結果:
---
-start---
-0開始執行,程序號為21466
1開始執行,程序號為21468
2開始執行,程序號為21467
0 執行完畢,耗時1.01
3開始執行,程序號為21466
2 執行完畢,耗時1.24
4開始執行,程序號為21467
3 執行完畢,耗時0.56
5開始執行,程序號為21466
1 執行完畢,耗時1.68
6開始執行,程序號為21468
4 執行完畢,耗時0.67
7開始執行,程序號為21467
5 執行完畢,耗時0.83
8開始執行,程序號為21466
6 執行完畢,耗時0.75
9開始執行,程序號為21468
7 執行完畢,耗時1.03
8 執行完畢,耗時1.05
9 執行完畢,耗時1.69--
---end---
--
multiprocessing.pool常用函式解析:
close():關閉pool,使其不再接受新的任務;
terminate():不管任務是否完成,立即終止;
join():主程序阻塞,等待子程序的退出,必須在close或terminate之後使用;
如果要使用pool建立程序,就需要使用multiprocessing.manager()中的queue(),而不是multiprocessing.queue(),否則會得到一條如下的錯誤資訊:
runtimeerror: queue objects should only be shared between processes through inheritance.
下面的例項演示了程序池中的程序如何通訊:
from multiprocessing import manager,pool # 修改import中的queue為manager
import os,time,random
defreader
(q):
for i in
range
(q.qsize())
:print
("reader從queue獲取到訊息:%s"
% q.get(
true))
defwriter
(q):
for i in
"helloword"
: q.put(i)
if __name__==
"__main__"
: q = manager(
).queue(
)# 使用manager中的queue
po = pool(
)(q,))
time.sleep(1)
# 先讓上面的任務向queue存入資料,然後再讓下面的任務開始從中取資料
(q,)
) po.close(
) po.join(
)print
("(%s) end"
% os.getpid(
))
程序池建立queue佇列使用q = manager().queue()
程序池建立queue佇列使用q = manager().queue()
程序池建立queue佇列使用q = manager().queue()
程序池建立queue佇列使用q = manager().queue()
程序池建立queue佇列使用q = manager().queue()
Python多程序 程序池pool
from multiprocessing import process,pool import time defselect time.sleep 1 print time.ctime return 這是每個進行執行完後返回的值,該值會會被 callback函式接收 def foo args pri...
python 程序池Pool詳情
當需要建立的子程序數量不多時,可以直接利用multiprocessing中的process動態成生多個程序,但如果是上百甚至上千個目標,手動的去建立程序的工作量巨大,此時就可以用到multiprocessing模組提供的pool方法。初始化pool時,可以指定乙個最大程序數,當有新的請求提交到poo...
Python多程序4 程序池 Pool
學習 分類目錄 多程序 是multiprocessing模組下的乙個類,是一種建立多程序的更加簡便的方式,可以更加方便的分配任務與傳遞引數。pool mp.pool processes 6 生成程序池 pool的兩個任務分配的函式 map 函式名,引數列表的列表 所謂的引數列表的列表是把所有的任務的...