1. rgw資料組織方式:
資料分類三類: metadata、bucket index、data2.metadata元資料分割槽元資料,索引資料、真實資料
元資料報含user、bucket、bucket.instance三個分割槽,可以使用以下命令檢視:
檢視元資料列表:
$ radosgw-admin metadata list
["bucket",
"bucket.instance",
"otp",
"user"
]
檢視bucket列表:
$ radosgw-admin metadata list bucket
["test-11111112",
"aevfr",
"test11k",
"eeeee",
"test123",
"buck",
"newbucket",
"eeeee_bak",
"test-11111111",
"newbucket-111",
"ww_bucket",
"test",
"ww_buck",
"testq"
]
檢視bucket例項:
$ radosgw-admin metadata list bucket.instance
["newbucket:21d2c035-4dd2-4961-a1df-7d49bdead1e8.4967608.2",
"test-11111112:932196fc-e1b0-4c48-8b6f-304b64f48e67.3877563.9",
"newbucket-111:21d2c035-4dd2-4961-a1df-7d49bdead1e8.4967608.3",
"aevfr:932196fc-e1b0-4c48-8b6f-304b64f48e67.3458907.2",
"test:932196fc-e1b0-4c48-8b6f-304b64f48e67.3877563.3",
"ww_buck:21d2c035-4dd2-4961-a1df-7d49bdead1e8.4967608.1",
"eeeee_bak:932196fc-e1b0-4c48-8b6f-304b64f48e67.3877563.11",
"test123:21d2c035-4dd2-4961-a1df-7d49bdead1e8.4967608.21",
"testq:21d2c035-4dd2-4961-a1df-7d49bdead1e8.5312134.1",
"test-11111111:932196fc-e1b0-4c48-8b6f-304b64f48e67.3877563.7",
"eeeee:932196fc-e1b0-4c48-8b6f-304b64f48e67.3458907.1",
"ww_bucket:21d2c035-4dd2-4961-a1df-7d49bdead1e8.5312134.2",
"buck:932196fc-e1b0-4c48-8b6f-304b64f48e67.3068420.1",
"test11k:21d2c035-4dd2-4961-a1df-7d49bdead1e8.4967608.22"
]
檢視使用者列表
$ radosgw-admin metadata list user
["admin",
"rgw_ww",
"hshtest",
"liufeilong",
"s3user1"
]
檢視bucket資訊
$ radosgw-admin metadata get bucket:
, "mtime"
:"2020-11-17 02:31:11.453705z",
"data":},
"owner"
:"admin",
"creation_time"
:"2020-11-17 02:31:11.447671z",
"linked"
:"true",
"has_bucket_info"
:"false"
}}
檢視bucket例項資訊
$ radosgw-admin metadata get bucket.instance::
, "mtime"
:"2020-11-17 02:31:11.450400z",
"data":},
"creation_time"
:"2020-11-17 02:31:11.447671z",
"owner"
:"admin",
"flags"
: 0,
"zonegroup"
:"65eaab96-12bf-4755-bdd3-b4ae20af4767",
"placement_rule"
:"default-placement",
"has_instance_obj"
:"true",
"quota":,
"num_shards"
: 0,
"bi_shard_hash_type"
: 0,
"requester_pays"
:"false",
"has_website"
:"false",
"swift_versioning"
:"false",
"swift_ver_location"
:"",
"index_type"
: 0,
"mdsearch_config":[
], "reshard_status"
: 0,
"new_bucket_instance_id":""
}, "attrs":[
]}}
檢視具體使用者資訊
$ radosgw-admin metadata get user:
# get or set
, "mtime"
:"2020-11-17 09:53:44.737013z",
"data":],
"swift_keys":[
], "caps":[
, ,
], "op_mask"
:"read, write, delete",
"system"
:"true",
"default_placement"
:"",
"default_storage_class"
:"",
"placement_tags":[
], "bucket_quota":,
"user_quota":,
"temp_url_keys":[
], "type"
:"rgw",
"mfa_ids":[
], "attrs":[
]}}
2.bucket索引
不同種類的元資料是分別存放的,bucket索引以key-value形式存放在rados的物件中,預設情況下每個bucket的元資料資訊存放在單獨的raods物件中,從hammer版本後也可能分布到多個具有map對映的物件中,這個map本身存放在omap中,對映到每個rados物件上。
每個omap的key就是物件的名稱,value則存放了物件的基本元資料資訊,這個資訊一般在列出bucket的時候被呼叫,而且每個omap都有乙個header,header厘公尺阿尼存放了bucket賬號資訊、物件數、總大小等資料
注: bucket索引中也存放了其它的資訊,而且分布在其它的命名空間中,例如:索引記錄,物件版本等更多資訊。
3. 資料
物件資料儲存在乙個或者多個rados物件中。
4.查詢物件的方式(路徑)
在訪問物件的過程中,rest api需要攜帶三個資訊到rgw上查詢:賬戶資訊、bucket名稱,物件名稱(key)
計算機資料組織方式
跟我們日常工作和生活一樣,電腦程式也組織它們的資料的時候,它們做這些事情的方式使用線性表 棧及詞典,等等。這些資料組織的方式稱為抽象資料型別 adt 乙個抽象資料型別 abstract data type 即adt是描述乙個資料集合以及在這個資料集合上的操作的說明。每個adt裡都存放的是什麼資料,以...
外存的組織方式
連續組織方式又稱為連續分配方式 要求為每乙個檔案分配一組相鄰接的盤塊 例如,第乙個盤塊的位址為b,第二個則為b 1。通常,它們位於一條磁軌上,在進行讀 寫時,不必移動磁頭。在採用連續組織方式時,可把邏輯檔案中的記錄順序地儲存到鄰接的各物理盤塊中。連續組織方式保證了邏輯檔案中的記錄順序與儲存器中檔案占...
Hadoop HDFS資料組織
hadoop培訓內容 hdfs資料組織,1.資料塊,2.staging,3.流水線式的複製 1.資料塊 hdfs最適合的應用場景是處理大資料集合,同時這些應用多是一次寫入多次讀取,並且讀的速度要滿足流式讀,即write once read many的語義。乙個典型的block大小是64mb,因此檔案...