Python3中的分布式程序

2021-08-15 14:54:58 字數 2255 閱讀 3446

僅僅是看懂了兩份**,做個紀念。

不過下面的ip位址可以換成本機的ip位址,也可以正常執行

# task_master.py

import random, time, queue

from multiprocessing.managers import basemanager

# 傳送任務的佇列:

task_queue = queue.queue()

# 接收結果的佇列:

result_queue = queue.queue()

# 從basemanager繼承的queuemanager:

class

queuemanager

(basemanager):

pass

# 把兩個queue都註冊到網路上, callable引數關聯了queue物件:

queuemanager.register('get_task_queue', callable=lambda: task_queue)

queuemanager.register('get_result_queue', callable=lambda: result_queue)

# 繫結埠5000, 設定驗證碼'abc':

manager = queuemanager(address=('', 5000), authkey=b'abc')

# 啟動queue:

manager.start()

# 獲得通過網路訪問的queue物件:

task = manager.get_task_queue()

result = manager.get_result_queue()

# 放幾個任務進去:

for i in range(10):

n = random.randint(0, 10000)

print('put task %d...' % n)

task.put(n)

# 從result佇列讀取結果:

print('try get results...')

for i in range(10):

r = result.get(timeout=10)

print('result: %s' % r)

# 關閉:

manager.shutdown()

print('master exit.')

import time, sys, queue

from multiprocessing.managers import basemanager

# 建立類似的queuemanager:

class

queuemanager

(basemanager):

pass

# 由於這個queuemanager只從網路上獲取queue,所以註冊時只提供名字:

queuemanager.register('get_task_queue')

queuemanager.register('get_result_queue')

# 連線到伺服器,也就是執行task_master.py的機器:

server_addr = ''

print('connect to server %s...' % server_addr)

# 埠和驗證碼注意保持與task_master.py設定的完全一致:

m = queuemanager(address=(server_addr, 5000), authkey=b'abc')

# 從網路連線:

m.connect()

# 獲取queue的物件:

task = m.get_task_queue()

result = m.get_result_queue()

# 從task佇列取任務,並把結果寫入result佇列:

for i in range(10):

try:

n = task.get(timeout=1)

print('run task %d * %d...' % (n, n))

r = '%d * %d = %d' % (n, n, n*n)

time.sleep(1)

result.put(r)

except queue.empty:

print('task queue is empty.')

# 處理結束:

print('worker exit.')

python 分布式程序

process可以分布到多台機器上,而thread最多只能分布到同一臺機器的多個cpu上。python的multiprocessing模組不但支援多程序,其中managers子模組還支援把多程序分布到多台機器上。乙個服務程序可以作為排程者,將任務分布到其他多個程序中,依靠網路通訊。由於manager...

Python 分布式程序

分布式程序是將process程序分布到多台伺服器中,利用多台機器的效能完成複雜的任務。可以應用到分布式爬蟲的開發中。分布式程序在python中依然要用到multiprocess模組。它不但支援多程序,其中managers子模組還支援吧多程序分不到多台機器上,可以寫乙個服務程序作為排程者,將任務分不到...

python 學習 分布式程序

伺服器端 import random,time,queue from multiprocessing.managers import basemanager 傳送任務的佇列 task queue queue.queue 接收結果的佇列 result queue queue.queue class q...