openstack kolla多節點容器化環境安裝

2022-03-11 21:42:35 字數 2049 閱讀 3307

好久沒寫隨筆了,6月份趁著在公司沒有太忙的事兒,把公司的伺服器進行了虛擬化,採用的openstack當前的容器化方案kolla。

整體安裝完的感受時,小白感覺自己是個大牛!哈哈,開玩笑,由於以前是開發虛擬化軟體的,所以對虛擬化相關概念比較熟悉,安裝起來比普通的開發人員要順手一下。下面記錄一下安裝的流程。

首先,感謝openstack**會推出的kolla解決方案,基於容器化的解決方案,讓我們更加便捷的實現伺服器資源的虛擬化,不過我並不能確保節點過多(具體數量我也不確認,不過有安裝50節點的介紹,說也沒太大問題)的話,是否會有意想不到的問題,只能大家自己去測試。我的安裝環境當前是3個節點。

其實多節點的安裝,跟單節點的安裝沒有太大區別,最終我得到的經驗是網路的規劃是至關重要的,kolla當前能夠支援節點的拓展,要規劃好網路。

安裝環境介紹:

1)三颱物理機均使用三塊網絡卡,一塊網絡卡虛擬機器內部網路使用(配置ip),一塊網絡卡做浮動ip(不要配置ip,要記得啟用),一塊網絡卡單獨給api服務使用。

2)三颱物理機,一台做控制節點與網路節點,另外兩台做計算與儲存。注意:控制節點需要為奇數個,否則容易出現腦裂。

剩下的為軟體包的安裝,下面摘錄自陳老師的文章:

各節點均做一下的配置:

關閉selinux

關閉firewalld

關閉networkmanager

設定hostname fqdn,讓機器可以通過hostname進行互相訪問,統一 /etc/hosts檔案

同步時間,先確保時間是基本一致,和硬體也統一時間

設定docker registry 伺服器位置,設定不安全的訪問。

檢查機器是否支援kvm

設定docker源,安裝docker 1.12.5

設定訪問私有的registry 源

開啟docker 的 shared mount 功能

設定網絡卡,網路,符合部署需求。如果需要bonding,需要把bonding做好。

對於要部署ceph的節點的磁碟,進行打標籤

檢查網路,重點,確保裝好後,網路功能正常。

在控制節點,我們需要做的工作,

關閉selinux

關閉firewalld

關閉networkmanager

設定hostname fqdn,讓機器可以通過hostname進行互相訪問,統一 /etc/hosts檔案

同步時間,先確保時間是基本一致,和硬體也統一時間

設定docker源,安裝docker 1.12.5

全面6條,都是相同的,不同的是需要在控制節點做如下操作:

搭建私有的registry伺服器,存放build好的openstack docker映象

安裝ansible

部署kolla-ansible

如果你願意,可以把docker服務安裝在單獨的節點,kolla安裝節點配置服務位址即可。

安裝完畢後有幾個問題可能會碰到:

1、如果邏輯卷建立失敗,可能是iscsi服務未找到,這時cinder_conf中新增如下配置:

iscsi_ip_prefix=192.168.1 

iscsi_ip_address=192.168.1.1

根據實際環境配置。

2、出現了tgtd容器占用空間較大的情況,具體原因我扔在分析。 前期預留足夠的空間給docker使用。

問題原因已經找到, 解決方式如下:

1)docker inspect tgtd 檢視容器詳細資訊, 查詢引數logpath

2)  進入到logpath目錄,du -sh *檢視日誌大小

3)  cat /dev/null > logpath   清理日誌,釋放空間。 

不過這也是暫時的解決方案,這個地方應該是kolla啟動docker容器時,--log-driver引數沒有置為none,導致日誌輸出量如此大。我會再找時間研究一下。

3、docker安裝後,建議對相關配置進行優化,包括docker最大占用空間值等,防止docker占用太多空間。

目前服務已經執行了19個多月,相對比較穩定。

pytorch 多GPU訓練(單機多卡 多機多卡)

首先是資料集的分布處理 需要用到的包 torch.utils.data.distributed.distributedsampler torch.utils.data.dataloader torch.utils.data.dataset distributedsampler這個包我們用來確保dat...

雙向多對多

雙向多對多會通過乙個中間表來維持關聯關係 雙向多對多關係中必須指定乙個關係維護端 否則中間表裡會出現主鍵重複的問題 例如 標籤類tags和商品類goods 乙個標籤可對應多種商品 乙個商品也能有多個標籤 首先在兩個類中各建乙個對方型別的set作屬性 用到的註解解釋 商品類goods 需要用 join...

怎樣理解多對多

a表,a id,a name,a tel三個字段。b表,b id,b address,b sol三個字段。關聯表,ref id,a id,b id,儲存著ab兩表的id,比如 a有 a0001,zhang3,139555533 a0002,li4,1397788888 a0003,wang5,136...