HDFS檔案的讀取和寫入常用命令

2022-09-06 03:36:09 字數 654 閱讀 4026

1hdfs是乙個分布式檔案系統,而對於乙個檔案系統來講,檔案的訪問是最頻繁的操作,了解hdfs中讀取和寫入檔案的流程更有利於我們理解hdfs分布式檔案系統架構

1.顯示命令的幫助資訊

2.建立資料夾

3.顯示當前目錄下所有檔案

4.本地檔案上傳到hdfs

5.更改檔案許可權

6.顯示目錄中所有檔案大小

7.顯示目錄中檔案數量

8.移動多個檔案到目標目錄

9.複製多個檔案到目標目錄

10.刪除檔案(目錄)

11.從本地檔案移動到hdfs/從hdfs把檔案移動到本地

12.複製檔案到本地,可以忽略crc校驗

13.在終端顯示檔案內容

如果在上傳檔案過程**現以上資訊,表示hdfs許可權不夠,可以在hadoop配置檔案中hdfs-site.xml中設定許可權為false

HDFS檔案讀取和寫入

讀取檔案 一 讀取方式一 寫入哪個datanode是不確定的,主要尋找讀取速度較快的datanode 怎麼找到這種datanode,從以下幾個方面 是否有本機位置,本機架位置,本機房位置 依次重試讀取檔案,直到讀取檔案成功 二 讀取方式二 backupread 每次讀取時,client會並行試著讀取...

HDFS檔案的寫入和讀取過程

hdfs檔案寫入 client 發起檔案上傳請求,通過 rpc 與 namenode 建立通訊namenode 檢查目標檔案是否已存在,父目錄是否存在,返回是否可以上傳client請求上傳第乙個 block namenode 根據配置檔案中指定的備份數量及機架感知原理進行檔案分配,返回可用的 dat...

HDFS的讀取和寫入

1 客戶端將待寫入的檔案資訊上傳給namenode 2 namenode檢測要上傳的檔案 3 將是否可上傳的資訊返回給客戶端 4 client將待上傳的檔案進行切塊,然後上傳blk1 5 namenode根據集群中現存的快資訊和機架感知,選出可上傳的主機 假設時datanode1和datanode2...