mpi是一種基於資訊傳遞的並行程式設計技術，這種技術經常被使用在分布式記憶體系統上。訊息傳遞介面是一種程式設計介面標準，而不是一種具體的程式語言。mpi標準定義了一組具有可移植性的程式設計介面。
不同開源組織或者廠商都有針對自己機器特殊優化的mpi版本。
mpi遵循了單程式多資料的方式，把工作量分割成不同的任務，在不同的處理器上執行。主要面向分布式記憶體架構，每個程序關聯乙個核心和一塊記憶體，程序間的通訊通過互聯的網路實現。通訊分為兩種，點對點和廣播。
pgas被稱為「全域性位址空間分割槽」（partitioned global address space (pgas)）模型。它也適用於分布式記憶體系統的並行程式設計。
pgas在c++語言下的實現是upc++。
在共享記憶體的架構下，所有的任務通過全域性記憶體方式來對資料進行訪問；在分布式記憶體架構下，根據任務分配，全域性資料結構在物理或者邏輯上被進行分割。
它具有如下特點：
位址空間被認為是全域性的。資料在物理上被分割成幾個部分，但虛擬的位址空間是連續的。
分割的資料位於不同的分布式記憶體節點上，這些節點執行相同的任務對這些資料做同樣的處理。
分布式系統和集群
分布式通過把乙個大型系統拆分不同子系統並分開部署提高了系統的擴充套件性和吞吐量，集群是通過集群管理多個相同的子系統並且保證集群系統的cap cp或則ap 來提高整個系統的搞可用和高效能。注 cp和ap 通常分布式和集群是同時存在乙個系統的。通過zookeeper eureka等元件管理服務和服務的元...
分布式 集群
效能是乙個多方面綜合的結果，遵循短板理論。系統中任何乙個部分成為效能瓶頸，都會影響整個系統的效能表現 對於web應用，首先第一步是響應http請求，即使後端的效能再好，如果在這裡出現瓶頸，整個系統的效能也會很差，類似於乙個很大的水瓶，但是入水口很小。在這個環節，可以通過dns分流，負載均衡等方式改善...
分布式OR集群
建立乙個自定義列表 如何建立乙個註腳 注釋也是必不可少的 katex數學公式 新的甘特圖功能，豐富你的文章 uml 圖表 flowchart流程圖 匯出與匯入 分布式是相對中心化而來，強調的是任務在多個物理隔離的節點上進行。中心化帶來的主要問題是可靠性，若中心節點宕機則整個系統不可用，分布式除了解決...