python 學習 分布式程序

伺服器端：

import random,time,queue

from multiprocessing.managers import basemanager
# 傳送任務的佇列
task_queue = queue.queue()
# 接收結果的佇列
result_queue = queue.queue()
class queuemanager(basemanager):
pass
# 定義乙個返回task_queue的函式
def return_task_queue():
global task_queue
return task_queue
# 定義乙個返回結果佇列的函式
def return_result_queue():
global result_queue
return result_queue
# 測試函式
def test():
# 將兩個queue註冊到網路上
queuemanager.register('get_task_queue', callable=return_task_queue)
queuemanager.register('get_result_queue', callable=return_result_queue)
# 繫結埠，同時設定驗證碼
manager = queuemanager(address=('127.0.0.1', 5000), authkey=b'abc')
# 啟動queue
manager.start()
# 獲得通過網路訪問的queue物件
task = manager.get_task_queue()
result = manager.get_result_queue()
# 放幾個任務進去
for i in range(10):
n = random.randint(0, 100)
print('put task %d...' % n)
task.put(n)
# 從result佇列中取出結果
print("try get results...")
for i in range(10):
r = result.get(timeout=10)
print("result: %s" % r)
# 關閉(之前一直阻塞)
manager.shutdown()
print("master exit.")
# main函式
if __name__=="__main__":
test()

測試端：

import time,sys,queue

from multiprocessing.managers import basemanager
class queuemanager(basemanager):
pass
# 從網路上獲取queue ,註冊時候提供名字
queuemanager.register('get_task_queue')
queuemanager.register('get_result_queue')
# 連線到伺服器
server_addr = '127.0.0.1'
print('connect to server %s...' % server_addr)
m = queuemanager(address=(server_addr,5000),authkey=b'abc')
m.connect()
# 獲取queue物件
task = m.get_task_queue()
result = m.get_result_queue()
for i in range(10):
try:
n = task.get(timeout=1)
print('run task %d*%d...' % (n,n))
r = '%d * %d = %d' %(n,n,n*n)
time.sleep(1)
result.put(r)
except baseexception:
print('error')
print("worker exit.")

python 分布式程序

process可以分布到多台機器上，而thread最多只能分布到同一臺機器的多個cpu上。python的multiprocessing模組不但支援多程序，其中managers子模組還支援把多程序分布到多台機器上。乙個服務程序可以作為排程者，將任務分布到其他多個程序中，依靠網路通訊。由於manager...

Python 分布式程序

分布式程序是將process程序分布到多台伺服器中，利用多台機器的效能完成複雜的任務。可以應用到分布式爬蟲的開發中。分布式程序在python中依然要用到multiprocess模組。它不但支援多程序，其中managers子模組還支援吧多程序分不到多台機器上，可以寫乙個服務程序作為排程者，將任務分不到...

Python之 分布式程序

要實現上面的功能，建立分布式程序需要分為六個步驟 接下來通過程式實現上面的例子 linux版本 首先編寫的是服務程序。如下 coding utf 8 author liuyazhuang date 2018 10 14 10 18 description 分布式服務程序linux版 version ...