yarn中幾種重要的的資源排程策略
1>fifo(佇列排程策略):在資料結構中,我們學習了佇列這種資料結構,遵循先進先出的原則,在資源排程也是佇列這種資料結構的一種應用,當存在多個任務的需要去執行的時候,他們都存在於任務佇列中,這種資源排程策略,首先會優先的從任務佇列中頭部拿到任務,對該任務分配足夠的資源,使得第乙個任務有足夠的資源,保障其順利的進行,在有剩餘資源的情況下,才會依次為佇列的其他任務分配資源,否則其他任務都處於阻塞狀態,直到等到第乙個任務執行完釋放資源,其他任務才會有執行的機會
2>capacity(容量資源排程策略):這種排程策略,會專門開闢乙個小的佇列,用於採用存放小任務集,該容量會提前為這個小的佇列分配一定的資源,使用的是fifo排程資源,使得該佇列有同等大任務的執行機會,當該佇列的資源不足時,徐要等待待大任務執行完釋放資源,小佇列才有足夠分配的資源執行.
3>fair(公平排程策略):對於這種排程策略,每乙個任務都有執行的機會,當有乙個任務需要執行的時候,該任務會被分配系統的所有資源,當有另乙個新的任務需要執行時,第乙個任務需要釋放一半的資源使其第2個任務有執行機會,缺點在於,第乙個任務在釋放資源時候,需要一定的時間,第2個任務執行有一定的延遲,且第乙個任務執行速率將減少
怎樣進行設定 設定在yarn-site.xml檔案裡面 ,我所使用的hadoop的版本是hadoop2.7.2,它預設的資源排程是第2種,容量排程,
配置方案(
yarn.resourcemanager.scheduler.class
org.apache.hadoop.yarn.server.resourcemanager.scheduler.capacity.capacityscheduler
Hadoop中yarn的執行機制
轉至 1.1 yarn 基本架構 1.2 yarn基本組成結構 1.resourcemanager rm 1 排程器 排程器根據容量 佇列等限制條件 如每個佇列分配一定的資源,最多執行一定數量的作業等 將系統中的資源分配給各個正在執行的應用程式。2 應用程式管理器 使用者提交的每個應用程式均包含1個...
hadoop中yarn的原理及執行
一 對yarn的理解 1.關於yarn的組成 大約分成主要的四個。2.resourcemanager rm 的理解 rm是全域性資源管理器,負責整個系統的資源管理和分配。主要由兩個元件組成 排程器和應用程式管理器 asm 應用程式管理器 負責管理整個系統中所有應用程式 使用者提交的每個應用程式均包含...
Hadoop中yarn的執行機制
轉至 1.1 yarn 基本架構 1.2 yarn基本組成結構 1 排程器 排程器根據容量 佇列等限制條件 如每個佇列分配一定的資源,最多執行一定數量的作業等 將系統中的資源分配給各個正在執行的應用程式。2 應用程式管理器 使用者提交的每個應用程式均包含1個am,主要功能包括 與rm排程器協商以獲取...