以docker為代表的容器技術已經持續成為話題好幾年了，本以為在沒有歷史包袱的創業公司中，docker應該會成為生產環境上部署和管理服務的標準配置，然而最近發現一些友商在得知我們在生產上使用docker和kubernetes之後，居然表現出了一些驚訝。我想對於這些團隊沒有採納docker而是繼續使用傳統運維方案，還是覺得即使多做一些繁瑣的運維工作，也希望對系統有更多的掌控度。
docker所依賴的lxc容器技術，早在十多年前就被google這類大廠使用了，國內的一些大廠也在很早開始投入研發和使用了，對他們來說，使用容器能夠充分利用計算資源，節省硬體開銷。然而對於小公司來說，把10臺伺服器壓縮到5臺伺服器並不能幫助公司活下去。
容器技術真正開始廣泛產生影響是從docker的誕生開始，docker剛出來的時候，官網上的slogan：「build ship run」，準確的闡述了docker的定位，從打包到部署，傳統運維的這一套流程，由於語言，環境，平台的不同在各個公司千差萬別，幾乎每個公司都會開發一套自己的發布系統。有了docker之後，這些居然都可以標準化了，並且相對於笨重的虛擬機器，docker幾乎就是乙個程序簡單的包裝，只有很少的額外開銷，啟動速度也幾乎相當於直接啟動應用程序。
對於沒有專職運維的即刻團隊，很自然的從專案開始就使用docker來做服務的發布工具了：
由於乙個docker容器只是乙個（或一組）程序的封裝，乙個容器想要向宿主機之外的網路提供服務，就只能繫結宿主機的埠了，埠的管理也是一件大部分情況下都不希望人去操心的麻煩事，為了避免埠衝突，對於需要暴露埠的容器，docker會隨機繫結乙個宿主機埠，這個時候我們就需要服務發現機制來幫助不同機器上的服務來進行通訊了。
我們使用了乙個簡單的方案，一套開源的工具：docker-discover和docker-register，它包含兩個元件：
1.每台worker node虛擬機器上執行乙個docker-register容器，用來掃瞄本地容器，把他們的服務名（用映象名作為服務名）和埠（包括容器內埠和宿主機埠）註冊到etcd上。
2.乙個docker-discover容器用來做中心**，它內部包含了乙個haproxy，每隔幾秒鐘掃瞄etcd上的註冊服務，並生成配置檔案，重新整理haproxy，生成backend配置的模版如下
這個方案給我們提供了一套系統的幾個基本功能：應用發布，服務發現，負載均衡，程序守護，其中應用發布是執行指令碼去各個worker node上拉取最新映象，程序守護則是由docker daemon的restarts=always來提供。
除了提供一致的執行環境使服務的發布和回滾比較可控，這套簡單的系統在發布流程上還是像傳統運維一樣需要遠端執行指令碼，功能比較簡單，隨著我們後端系統成長起來，很快就不夠用了。
docker本身只是提供了乙個執行環境，除了把服務跑起來之外，要讓多個服務容器協同起來工作，我們還需要乙個容器編排（orchestration）系統，一般來說我們期望編排系統能幫我們實現幾個目的：
基本發布自動化功能：
編排過程包含分配機器，拉取映象，啟動／停止／更新容器，存活監控，容器數量擴充套件和收縮
宣告式定義服務棧：
提供一種機制，可以用配置檔案來宣告服務的網路埠，映象及版本，在需要的時候通過配置可再現的建立出一整套服務。
服務發現：
提供dns和負載均衡，乙個容器啟動之後，需要其他服務能夠訪問到它，乙個容器終止執行之後，需要保證流量不會再導向它。
狀態檢查：
需要持續監控系統是否符合配置中宣告的狀態，比如一台宿主機掛了，需要把上面執行的容器在其他健康的節點上啟動起來，如果乙個容器掛了，需要把它重新啟動。
從設計思路，社群活躍度等因素來看，kubernetes無疑是編排工具最好的選擇，但由於元件較多，學習成本並不低，還有牆的因素，在國內甚至安裝都不是件容易的事。
這個時候我們發現rancher正式發布了，雖然沒有kubernetes那麼熱門，但它提供了所有我們需要的功能，還有乙個簡單容易上手的web ui。在早期我們的機器和服務數量都比較少，又急需乙個編排工具好把有限精力都投入到開發上，所以迅速的把服務都遷移到rancher上了。
準確的說，rancher是一套容器管理打包方案，支援三種編排引擎：kubernetes，swarm，還有rancher自己開發的cattle（最近好像換成了mesos）。從功能的完整性和易用性來看，rancher甚至可以算得上乙個商業軟體了，部署極其簡單，這也是我們選擇它作為入門級容器管理平台的原因。
rancher元件圖，中小企業常用的軟體功能都能找到：
後來圍繞rancher，也使用了一些catalog裡提供的服務棧，我們逐步搭建起來了一套完整的容器運維系統，包含了日誌收集，效能監控，配合aws的auto scaling group，應用擴充套件也是很方便的事情。
雖然rancher非常的易用，但隨著我們後端機器和專案數量的增加，它的一些問題也暴露出來了，ui卡頓，發布速度越來越慢，1.3之後甚至經常出現服務的預期狀態（容器數量，版本）無法被保證，卡在發布中或者完成中狀態，真正讓我們下定決心要遷移的是一次重大故障，疑似網路雪崩引起，集群所有機器都在重複斷開連線，本來按一般編排系統的設計，worker node上的容器之間通過overlay網路通訊，node和rancher server的連線即使斷開也不會影響已經啟動的容器執行。但在1.3之後的rancher中，不知是有意設計還是bug，worker
node重新連線上rancher server之後，節點上所有的容器會被重新schedule，這就導致集群中所有容器都不斷的被銷毀又重新建立。
在rancher上碰到大大小小的問題，我們發現大部分都很難找到社群提供的解決方案，我們很可能是不幸比較早踩坑的人，雖然rancher是開源的，但技術上的文件相比使用文件明顯欠缺很多，想通過了解他的實現來排查問題比較困難，也很少有rancher公司之外的contributor，這點是和kubernetes很明顯不同的。
和rancher提供了一整套解決方案不一樣，kubernetes提供的是乙個框架，對於rancher，即使不熟悉其中各個元件，也可以直接用預設的配置安裝，拿來當乙個發布工具使用，kubernetes則要求使用者對他的元件有一定程度了解，社群提供了很多幫助部署的installer，但使用前都需要不少配置工作。
devops同事畫的kubernetes架構圖：
在rancher上積累了一些容器編排的經驗之後，我們對使用kubernetes做編排也有了一些信心，於是開始遷移到效能更好，社群更活躍的kubernetes上。
我們將線上服務一點點從rancher上把流量切換到kubernetes集群，起初發現流量稍微增漲便丟包嚴重，定位到問題是dns解析緩慢，觀察kernel log發現宿主機conntrack count到達上限，出現丟包。
這裡解釋一下iptable裡的conntrack：我們在使用iptable做面向連線的防火牆時，要允許與乙個ip位址建立特定連線，除了讓該連線下的包能進來，還要讓回覆的包能出去，由於ip是個無狀態協議，這個時候就需要乙個session表來記錄有狀態的連線，conntrack就是用來記錄這些session的。在微服務下，服務間呼叫頻繁，會產生大量dns查詢，linux預設的conntrack_max很容易突破限制，所以在部署有dns service的機器上設定乙個較高的conntrack_max值基本上是必須的。
前面介紹了我們使用容器來做服務編排，除了這些，相對於傳統架構，使用容器我們還獲得了一整套日誌和監控的解決方案，比如日誌採集，部署在容器中的日誌可以直接列印到標準輸出中，docker本身支援多種logging driver，可以將日誌直接發到graylog，aws cloudwatch等日誌平台，也可以讓fluentd等日誌採集工具來採集docker預設輸出的json-file，相比之下傳統架構可能需要在應用中使用專門配置的logger輸出到收集系統，或者配置專門的採集器去採集不同的日誌檔案。
小公司對基礎設施的投入不足，一般沒有專人去熟悉kubernetes這種大型開源專案，但即刻算是乙個對技術持開放態度，願意讓工程師去踩坑、嘗試的公司。相對於採用傳統架構，因為容器編排系統都是以提高本身的複雜性來覆蓋繁瑣的配置和指令碼編寫工作，本身複雜了就會導致出現問題的時候會比較難排查。但做過運維工作的應該了解，一般自己編寫的指令碼很難具有通用性，很可能環境稍有改變就不能使用了，運維是比較枯燥的工作，有了編排系統幫助處理這些，我們可以把更多的精力放到更有意義的工作上。
參考：
為什麼要使用blog
有哥們問我，你為什麼使用blog?我總結了一下，覺得有如下幾個原因。1對自己的督促 有了blog，就會經常記得寫點東西 就會經常翻翻網上的新文章，了解一下新技術，不至於迷失在忙碌的生活中 如果把自己的所感所想所學寫出了，自己對自己也會有個概念，不至於迷迷糊糊 還有，畢竟是掛在網上的文字，心中難免擔心...
為什麼要使用XML
xml 代表擴充套件標記語言 extensible markup language 是由 world wide web consortium w 3c 的 xml工作組定義的。這個工作組是這樣描述該語言的 擴充套件標記語言 xml 是 sgml 的子集，其目標是允許普通的 sgml 在web 上以目...
為什麼要使用Nginx？
有人說這些基準測試是不準確的，因為在這樣那樣的環境下，做的比較不一致。我傾向同意基準測試只是告訴了我們其中一部分情況，你能做的是消除偏見 有人見過所有人都同意乙個基準測試是公平的嗎？我是沒見過。我們投資的一些公司把web平台切換到nginx後，可以顯著的解決擴充套件問題。nginx明顯有效的實現了今...