(1)官方產品定位
個人消費級:應用於普通pc,包括geforce gtx1080 ti和 titan xp等;
工業應用級:應用於資料中心,包括tesla v100、nvidia t4等;
(2)實際應用部署
在實際採購時,應該考慮日常應用場景需求,如果沒特別高的要求,從價效比上來說絕對選geforce gtx 1080 ti「,正如網友所說,「凡是不向外提供演算法服務能力的機構,都推薦 geforce gtx 系列。」 也就是說,如果只是演算法開發和內部服務,不管是高校還是企業,都推薦 geforce gtx 系列,如果是對第三方提供雲服務,出於nvidia licence要求,需要使用工業應用級顯示卡。
(1)吞吐量(承壓能力)
(2)併發請求數:固定時間間隔內的處理請求的個數,該指標基於使用者大資料,由需求方給出;
步驟一:判斷是否滿足需求方提出的響應時間,若滿足,則使用cpu機器,若不滿足,則考慮改進演算法複雜度或者使用帶gpu的推理伺服器(比如nvidia t4,使用ft16時推理速度更快);
步驟二:配置伺服器端,若伺服器端為cpu,則需要配置多執行緒,若為gpu,則可以採用基於batch的處理;
步驟二:做壓力測試,模擬使用者請求,得出1臺伺服器的吞吐量,然後基於併發請求數,確定出需要堆疊多少臺機器;
TCP伺服器連線相關知識點
netstat an awk tcp sort uniq c 68 close wait 2 closing 136 established 38 fin wait1 16 fin wait2 2 last ack 8 listen 71 syn recv 2936 time wait 狀態 描述 ...
Web伺服器總結知識點
建立使用者及使用者檔案 如果繼續新增使用者去掉選項 c 配置檔案 httpd t檢測語法是否正確 重啟服務 測試即可 yum y install httpd manual檢視時在瀏覽器輸入伺服器ip manual 在 etc httpd conf.d 目錄下單獨建立虛擬機器檔案 配置虛擬主機檔案 h...
伺服器相關知識
伺服器定義 從廣義上講,伺服器是指網路中能對其它機器提供某些服務的計算機系統 如果乙個pc對外提供ftp服務,也可以叫伺服器 從狹義上來講,伺服器是專指某些高效能計算機,能夠通過網路,對外提供服務。相對於普通pc來說,在穩定性 安全性 效能等方面都要求更高,因此cpu 晶元組 記憶體 磁碟系統 網路...