我們在面試的時候基本都會遇到多執行緒方面的問題，常見的資料庫出現「too many connection」如何解決，執行緒池中應該設定多少個執行緒才能滿足系統的需求等等。本篇文章給大家總結一下如何簡單的計算，到底需要多少個執行緒，也希望大家到時候問到多執行緒方面問題的時候， 你也能說一下下邊的計算方式！另外，還有一些常見的關於cpu相關的知識點，qps/tps等基礎概念，也是需要了解的！
一、前言
「線上伺服器超時嚴重，請求非常慢，報連線數too many了」等等這些問題，基本使我們開發中常見的問題，簡單的把連線數和執行緒池調大點，往往這個方式是應急措施，治標不治本，因為不知道問題的原因。
有個嚴重誤區，以為執行緒池設定太小了，調大點請求就會快了。
那麼，執行緒池的大小應該如何合理的設定其大小？
二、問題
如果有兩個任務需要處理，乙個任務a，乙個任務b
方案一：乙個執行緒執行任務a和b，a執行完後，執行b；
方案二：兩個執行緒a和b去執行任務a 和 b，同時進行；
哪個方案會快點？
應該很多人會回答，肯定是方案二啊
，多執行緒並行去處理任務a和b，肯定快啊。是這樣嗎？
回答這個問題之前，
先帶著大家去回顧梳理一下。
三、執行緒執行
執行緒的執行，是由cpu進行排程的，乙個cpu在同一時刻只會執行乙個執行緒
，我們看上去的執行緒a 和 執行緒b併發執行。
為了讓使用者感覺這些任務正在同時進行，作業系統利用了時間片輪轉的方式
，cpu給每個任務都服務一定的時間，然後把當前任務的狀態儲存下來，在載入下一任務的狀態後，繼續服務下一任務。任務的狀態儲存及再載入，這段過程就叫做上下文切換。
上下文切換過程是需要時間的
；現在我們來看一下上面的問題，小夥伴們再看一下是哪個方案快呢？是不是有些小夥伴們會說方案一，因為不需要執行緒切換；方案二需要來回切換這兩個執行緒，耗時會多點。
小夥伴們心中此時是不是會有疑惑，那為什麼會有多執行緒？
先不急，再往下看。
四、為什麼要多執行緒
小夥伴想想在我們真實業務中，我們是什麼流程？
上圖的流程：
1、先發起網路請求
2、web伺服器解析請求
3、請求後端的資料庫獲取資料
4、獲取資料後，進行處理
5、把處理結果放回給使用者
這個是我們處理業務的時候，常規的請求流程
；我們看一下整個過程涉及到什麼計算機處理。
1、網路請求----->網路io
2、解析請求----->cpu
3、請求資料庫----->網路io
4、mysql查詢資料----->磁碟io
5、mysql返回資料----->網路io
6、資料處理----->cpu
7、返回資料給使用者----->網路io
講到這裡，小夥伴們是不是感覺又不亂了，在真實業務中我們不單單會涉及cpu計算，還有網路io和磁碟io處理
，這些處理是非常耗時的。如果乙個執行緒整個流程是上圖的流程，真正涉及到cpu的只有2個節點，其他的節點都是io處理，那麼執行緒在做io處理的時候，cpu就空閒出來了，cpu的利用率就不高。
小夥伴們現在知道多執行緒的用處了吧，對，就是為了提公升cpu利用率。
五、提公升qps/tps
衡量系統效能如何，主要指標系統的（qps/tps）
qps/tps：每秒能夠處理請求/事務的數量
併發數：系統同時處理的請求/事務的數量
qps/tps = 併發數/響應時間
上面公式代表併發數越大，qps就越大
；所以很多人就會以為調大執行緒池，併發數就會大，也會提公升qps，所以才會出現一開始前言所說的，大多數人的誤區。
其實qps還跟響應時間成反比，響應時間越大，qps就會越小。
雖然併發數調大了，就會提公升qps，但執行緒數也會影響響應時間
，因為上面我們也提到了上下文切換的問題，那怎麼設定執行緒數的呢？
六、如何設定執行緒數
那我們如何分配執行緒？我們提供乙個公式：
最佳執行緒數目 = （（執行緒等待時間+執行緒cpu時間）/執行緒cpu時間 ）* cpu數目
備註：這個公式也是前輩們分享的，當然之前看了**前台系統優化實踐的文章，和上面的公式很類似，不過在cpu數目那邊，他們更細化了，上面的公式只是參考。不過不管什麼公式，最終還是在生產環境中執行後，再優化調整。
我們繼續上面的任務，我們的伺服器cpu核數為4核，乙個任務執行緒cpu耗時為20ms，執行緒等待（網路io、磁碟io）耗時80ms，那最佳執行緒數目：( 80 + 20 )/20 * 4 = 20
。也就是設定20個執行緒數最佳。
從這個公式上面我們就得出，執行緒的等待時間越大，執行緒數就要設定越大
，這個正好符合我們上面的分析，可提公升cpu利用率。那從另乙個角度上面說，執行緒數設定多大，是根據我們自身的業務的，需要自己去壓力測試，設定乙個合理的數值。
七、基礎常規標準
那我們小夥伴們會問，因為很多業務集中到乙個執行緒池中，不像上面的案例比較簡單，事實上業務太多，怎麼設定呢
？這個就是要去壓力測試去調整。不過我們的前輩已經幫我們總結了乙個基礎的值（最終還是要看運**況自行調整）
cpu密集型：操作記憶體處理的業務，一般執行緒數設定為：cpu核數 + 1 或者 cpu核數*2。核數為4的話，一般設定 5 或 8
io密集型：檔案操作，網路操作，資料庫操作，一般執行緒設定為：cpu核數 / (1-0.9)，核數為4的話，一般設定 40
八、總結
今天介紹了執行緒數大小的設定，一些小夥伴們的誤區。講到這裡我們小夥伴們是不是對執行緒有了更新的理解，不像之前那麼粗暴，應該要去分析為什麼這麼慢，系統的瓶頸出現在什麼地方，減少瓶頸的耗時。
從設計角度分析MVC
ps 原來寫文章是從來也不寫提綱的，現在通過不斷的設計訓練和 注釋的影響，沒提綱就寫不下去了 言歸正傳，mvc作為一種軟體設計模式，它用一種業務邏輯 資料和介面顯示互相分離的方法組織 將業務邏輯單獨封裝，使得在介面及與使用者互動的形式改變時不影響到邏輯。1 模式簡介 mvc是一種建立web應用程式的...
多執行緒分析
多程序適合於完全不相干的幾件事情同時做。因為除了 段相同之外，別的都是互不相干的，而多執行緒則可以 所謂多執行緒 執行緒是可執行 的可分派單元。這個名稱 於 執行的線索 的概念。在基於執行緒的多工的環境中，所有程序有至少乙個執行緒，但是它們可以具有多個任務。這意味著單個程式可以併發執行兩個或者多個任...
多執行緒（同步 通訊等）
生產者將產品交給店員，二消費者從店員處取走產品 店員持有的產品數量不超過20，如果超過20叫生產者停一下,少於20就繼續生產 如果店員持有的數量為0，讓消費者稍等下，一有產品就通知消費者 分析 是否有涉及到多執行緒？有，生產者和消費者 是否有涉及到共享資料？有，產品數量，別忘了執行緒安全 是否有涉及...