吞吐量 QPS 併發數等概念

2021-10-19 15:31:01 字數 1051 閱讀 7386

開發原因需要了解吞吐量(tps)、qps、併發數、響應時間(rt)等概念如下:

1。響應時間(rt)

響應時間是指系統響應請求的時間。直覺上,這個指標非常符合人們對軟體效能的主觀感受,因為它完整地記錄了整個計算機系統的處理時間。由於乙個系統通常提供多種功能,不同功能的處理邏輯差異很大,不同功能的響應時間也不一樣,甚至同一功能在不同輸入資料下的響應時間也不一樣。因此,在討論乙個系統的響應時間時,人們通常指的是系統所有功能的平均時間或所有功能的最大響應時間。當然,對於每個函式或函式組,通常需要討論平均響應時間和最大響應時間。對於沒有併發操作的單應用系統,一般認為響應時間是乙個合理準確的效能指標。需要指出的是,響應時間的絕對值並不直接反映軟體的效能,實際上取決於使用者對響應時間的接受程度。對於乙個遊戲軟體來說,100毫秒以內的響應時間應該是不錯的,1秒左右的響應時間可能勉強可以接受,如果響應時間達到3秒的話,完全不能接受。對於編譯系統來說,完全編譯乙個大型軟體的源**可能需要幾十分鐘甚至更長的時間,但是這些響應時間是使用者可以接受的。

吞吐量(throughput)

對於多使用者系統,如果只有乙個使用者,系統的平均響應時間為t,當有n個使用者時,每個使用者看到的響應時間通常不是n×t,而是往往比n×t小很多(當然,在某些特殊情況下,可能會比n×t大很多,甚至大很多)。這是因為處理每個請求都需要大量的資源,而且由於處理過程中很多請求很難併發執行,所以在特定的時間點往往占用很少的資源。也就是說,在處理單個請求時,許多資源可能在每個時間點都是空閒的。在處理多個請求時,如果資源分配合理,每個使用者看到的平均響應時間不會隨著使用者數量的增加而線性增加。事實上,不同系統的平均響應時間隨著使用者的增加而以不同的速度增加,這是使用吞吐量來衡量併發系統效能的主要原因。一般來說,吞吐量是乙個通用指標。如果使用者數量和使用者使用模式不同的兩個系統的最大吞吐量基本相同,則可以判斷兩個系統的處理能力基本相同。

併發使用者數

qps每秒查詢率(query per second)

每秒查詢速率(qps)是特定查詢伺服器在指定時間內處理的流量的度量。在網際網路上,一台機器作為網域名稱系統伺服器的效能往往是以每秒的查詢率來衡量的。相應的回遷/秒,即每秒響應請求數,即最大吞吐量。(好像和tps差不多,只適用於特定場景的吞吐量)

系統吞吐量 QPS TPS 併發數等概念

概念 1.1.系統吞吐量 1.2.qps tps 1.3.併發數 1.4.響應時間 1.5.關係 1.6.案例 系統吞吐量評估 真實場景 系統吞吐量乙個系統的吞度量 承壓能力 與request對cpu的消耗 外部介面 io等等緊密關聯。單個reqeust 對cpu消耗越高,外部系統介面 io影響速度...

吞吐量 併發量

併發數 吞吐量的概念最初用來衡量網路裝置的效能,後來推廣到伺服器及業務上評估系統的整體效能。一 網路裝置的併發數 吞吐量 併發數 concurrency 也叫併發連線數,指網路裝置所能處理的最大會話數量。這裡的會話數是指請求 響應一次會話。吞吐量 throughput 使用者請求是由乙個個資料報組成...

QPS TPS RT 併發數 吞吐量理解

在了解qps tps rt 併發數之前,首先我們應該明確乙個系統的吞吐量到底代表什麼含義,一般來說,系統吞吐量指的是系統的抗壓 負載能力,代表乙個系統每秒鐘能承受的最大使用者訪問量。乙個系統的吞吐量通常由qps tps 併發數來決定,每個系統對這兩個值都有乙個相對極限值,只要某一項達到最大值,系統的...