到底什麼級別才算是高併發?

2021-09-27 08:37:00 字數 2409 閱讀 1227

寫這個話題是因為我對搜尋引擎給我的答案很不滿意,然後決定把思考的一些東西分享出來,希望可以大家彼此討論下。

我們經常在面試的時候,被問到有沒有高併發的經驗?先不說哪些考高併發的裝逼公司。我思考的是什麼才算是高併發?你一天幾個pv肯定高不了。首先在網上查詢一下,並未找到明確的標準定義。那麼什麼是併發呢?

併發,在作業系統中,是指乙個時間段中有幾個程式都處於已啟動執行到執行完畢之間,且這幾個程式都是在同乙個處理機上執行,但任乙個時刻點上只有乙個程式在處理機上執行。
我們說的高併發是什麼?

上面的定義明顯不是我們通常所言的併發,在網際網路時代,所講的併發、高併發,通常是指併發訪問。也就是在某個時間點,有多少個訪問同時到來。

我看到有人給高併發下了類似的定義:

高併發通常是指我們提供的系統服務能夠同時並行處理很多請求。
來看看這個定義,這裡首先把並發給混淆到並行了。關於併發並行的區別看這裡我就不多說,繼續**併發。

然後定義又說很多請求?什麼叫很多請求?做為中國人,這個詞讓我想象力一發不可收拾…好了,拉回來,繼續本文。

那麼從上面的分析,可以看出來高併發在網路上業界也沒有明確的定義。但根據我搜尋情況,一般都是pv在千萬級別以上的公司才會涉及到這個概念。所以我得出乙個自定義概念:如果某個系統的日pv在千萬級別以上,他就可能是乙個高併發的系統。

為什麼說是可能?那是因為有的公司完全不走技術路線,全靠機器堆,這不在我們的討論範圍。

高併發的問題,我們具體該關心什麼?

講真話,高併發是個比較抽象的概念。很難有乙個統一的可衡量的標準。哪麼有一些其它維度的標準指標來衡量系統的效能嗎?

先宣告幾個概念,別打瞌睡。

1.qps(tps):每秒鐘 request/事務 數量,在網際網路領域,指每秒響應請求數(指http請求);

2.吞吐量:單位時間內處理的請求數量(通常由qps與併發數決定);

!!這裡一定要注意呃,qps ≠ 併發數

併發是指,某個時刻有多少個訪問同時到來。qps是指秒鐘響應的請求數量。那麼這裡就肯容易推算出乙個公式:

qps = 併發數 / 平均響應時間

後面我們的分析都是圍繞這個公示來進行展開,沒明白的再回味一下。

現在我們來假設乙個場景:既然qps是每秒鐘處理的http請求數量。那麼1s = 1000ms。假設我們當前乙個http請求伺服器處理完成需要100ms(即那麼 平均響應時間 = 100ms )。那麼它1s鐘可以處理10個請求。也就是說 qps = 10。推算出 併發數 = 10

常常我們被問到高併發的問題,其實從某種程度上來說是怎麼提高現有程式的效能。現在我們基於上面的假設,來進行分析。假設現在有個系統效能上就是我們上面的假設,它每天有 300萬pv,執行在單機上(當然經常宕機),按照上面的系統效能資料,給出優化解決方案。

提高併發能力

通過上面的分析,要提公升併發能力,我們就需要提公升我們的qps(其實這裡並不完全正確,為了說明問題,我們先放棄一部分正確性)

最快速解決方案,就是增加機器。我們根據以上情況來實際計算一下。

1.訪問量:200w pv

2.qps:10

根據日常經驗,80% 的訪問量集中在 20%的時間,算一下這 200w pv實際需要機器達到多少qps才能滿足。

qps = (200w * 0.8) / (24 * 3600 * 0.3)

qps = 61.7

實際上如果在單機上,要求我們每秒鐘處理請求必須達到 61.7 以上才行,而實際上我們當前系統的qps是 10。那麼怎麼解決?

方案一:上機器

個人的能力是有限的,團隊的力量是無窮的。既然一台機器搞不定,我們就多上幾台機器。這就涉及到db主從、讀寫分離、負載均衡等技術。

它的原理就是分流,把以前集中的壓力分散開來。改方案見效快,靈活,實踐起來也更快。

方案二:增加單機效能

單機到底效能能夠增加到乙個什麼程度,這取決於你的機器配置,也取決於你的服務到底有多複雜。

ps:寫到這裡突然有點能夠理解為什網上對高併發都是講很多請求,沒有具體資料了,因為這真的只能針對業務來講,100個併發對靜態網頁來說根本沒有的事兒,但是對於某些密集計算型的估計...

那麼常見的單機如何提公升效能?比如:增加不常變化資料的快取,開啟php的opcache,優化**(如:n+1問題、多重巢狀迴圈、深層遞迴等),db表優化等等。由於這些每乙個點拿出來都夠寫一本書了。咋就不繼續下去。

總結

由於筆者自己也是沒有實際經歷過kw級別pv場景,很多東西講的不一定對,本文也是理清自己的一點思路。希望能夠與更多朋友進行討論。

也希望本文能夠解決你的一點疑惑,讓我們能夠從高大上的概念落實到實際問題中去。

參考資料

1.2.

什麼才算是說明白了

早上開會的時候,一位新同事反映說技術經理沒有把需求說清楚,所以他只把介面做好了,相關功能還沒有新增上去。結果技術經理火了,說 不是已經交代清楚了嗎,你還一直問問問,問那麼多問題幹什麼!雙方都認為是對方的錯,自己沒有錯,那麼,這裡到底是誰的錯?我們在處理事情的時候往往有一種無意或者有意的自我保護傾向,...

高併發級別簡述

qps req sec 請求數 秒 qps 每秒鐘 處理完請求的次數 注意這裡是 處理完。具體是指發出請求到伺服器處理完成功返回結果。可以理解在server中有個counter,每處理乙個請求加1,1秒後counter qps。qps計算pv和機器的方式 qps統計方式 一般使用 http load...

什麼才算是真正的程式設計能力?

知乎上看到一題主的發問 還在讀書,也在實驗室幫忙做了些東西,自己也搭過幾個 在周圍人看來似乎好像我很厲害,做了那麼多東西,但是我發現這些東西雖然是我做的,但是實際上我手把手自己寫的 卻並沒有多少,很多都是用開源的東西,我寫的 無非是把別人的東西整合下,類似於膠水一樣的工作。我之前所認為的程式設計是全...