HDFS 中常見的Timeout

2021-09-21 11:59:05 字數 1013 閱讀 1349

前段時間遇到

hdfs

的各種超時,這裡總結下遇到的超時:

ipc1.

ipc connect timeout:

client

端setupconnection

設定,2.0.3

之前是20s

,之後是可配置

ipc.client.connect.timeout

2.

ipc max idle time

:ipc.client.connection.maxidletime

設定,預設

20s,若在

20s內

calls

依然為空則主動關閉;在

server

端該值為×2

3.ipc ping timeout

:在client

端由ipc.ping.interval

設定,預設

1min

,定期重新整理最後更新時間.

4.rpc timeout

:在call

呼叫內由客戶端設定

socket

1.ipc 

連線的socket timeout

:若rpctimeout>0

則去rpctime

,否則為

ipc.ping.interval

2.connect/read timeout

:dfs.client.socket-timeout

,預設read_timeout = 60 * 1000

,read_timeout_extension= 5 * 1000,connect timeout還未分離(hdfs-1075)

3.write timeout

:dfs.datanode.socket.write.timeout

,預設write_timeout = 8 * 60 * 1000

,write_timeout_extension= 5 * 1000

HDFS中常用的shell命令

顯示當前目錄結構 hadoop fs ls顯示當前目錄結構 hadoop fs ls r遞迴顯示當前目錄結 hadoop fs ls顯示根目錄下的內容 建立目錄 hadoop fs mkdir建立目錄 hadoop fs mkdir p 建立遞迴目錄 刪除操作 hadoop fs rm刪除檔案 ha...

HDFS常見API操作

乙個剛開始學習大資料的小白,願意和大家分享所學所得。1 put 檔案上傳 對應hadoop fs put 等同於hadoop fs copyfromlocal 上傳檔案 test public void put throws ioexception,interruptedexception由上面所見...

oracle常見單詞 Oracle中常見的英語單詞

fatal 重要的,致命的。常見於 root dido1 ps ef grep init.cssd root 2918 1 0 09 59 00 00 00 bin sh etc init.d init.cssd fatal dependencies 附屬的 diagnostic 診斷 常見於 ro...