QPS TPS 併發量 系統吞吐量概念和公式

2022-09-17 13:15:15 字數 853 閱讀 1357

我們在日常工作中經常會聽到qps/tps這些名詞,也會經常被別人問起說你的系統吞吐量有多大。乙個系統的吞度量(承壓能力)與request對cpu的消耗、外部介面、io等等緊密關聯,單個reqeust 對cpu消耗越高,外部系統介面、io影響速度越慢,系統吞吐

能力越低,反之越高。這個問題從業務上來講,可以理解為應用系統每秒鐘最大能接受的使用者訪問量或者每秒鐘最大能處理的請求數。系統吞吐量的幾個重要引數:qps(tps)、併發數、響應時間。

qps:每秒鐘處理完請求的次數;注意這裡是處理完。具體是指發出請求到伺服器處理完成功返回結果。可以理解在server中有個counter,每處理乙個請求加1,1秒後counter=qps。

tps:每秒鐘處理完的事務次數,一般tps是對整個系統來講的。乙個應用系統1s能完成多少事務處理,乙個事務在分布式處理中,可能會對應多個請求,對於衡量單個介面服務的處理能力,用qps比較多。

併發量:系統能同時處理的請求/事務數。

rt:響應時間,處理一次請求所需要的平均處理時間

qps = 併發量 / 平均響應時間

併發量 = qps * 平均響應時間

系統吞吐量:通常由qps(tps)、併發數兩個因素決定,每套系統這兩個值都有乙個相對極限值,在應用場景訪問壓力下,只要某一項達到系統最高值,系統的吞吐量就上不去了,如果壓力繼續增大,系統的吞吐量反而會下降,原因是系統超負荷工作,上下

文切換、記憶體等等其它消耗導致系統效能下降。

間; 關鍵路徑是有cpu運算、io、外部系統響應等因素組成。

QPS,TPS,併發量,系統吞吐量的概念

我們在日常工作中經常會聽到qps tps這些名詞,也會經常被別人問起說你的系統吞吐量有多大。這個問題從業務上來講,可以理解為應用系統每秒鐘最大能接受的使用者訪問量。或者每秒鐘最大能處理的請求數 qps 每秒鐘處理完請求的次數 注意這裡是處理完。具體是指發出請求到伺服器處理完成功返回結果。可以理解在s...

QPS TPS 併發量 系統吞吐量的概念

我們在日常工作中經常會聽到qps tps這些名詞,也會經常被別人問起說你的系統吞吐量有多大。這個問題從業務上來講,可以理解為應用系統每秒鐘最大能接受的使用者訪問量。或者每秒鐘最大能處理的請求數 qps 每秒鐘處理完請求的次數 注意這裡是處理完。具體是指發出請求到伺服器處理完成功返回結果。可以理解在s...

聊聊QPS TPS 併發量 系統吞吐量的概念

我們在日常工作中經常會聽到qps tps這些名詞,也會經常被別人問起說你的系統吞吐量有多大。這個問題從業務上來講,可以理解為應用系統每秒鐘最大能接受的使用者訪問量。或者每秒鐘最大能處理的請求數 qps 每秒鐘處理完請求的次數 注意這裡是處理完。具體是指發出請求到伺服器處理完成功返回結果。可以理解在s...