資料庫資料量達到億級的處理方案猜想

2021-09-20 09:55:03 字數 552 閱讀 5066

1、分庫這裡就不展開說了

2、關於分表

[1] 分表應該分兩種情況,第一種是橫向分表

也就是對錶橫切,按照資料量進行拆分。

到達何種資料量進行拆分呢?這個看業務區分。

[2]第二種情況是縱向分表

也就是拆分字段,比如一張表有n個字段,可以根據業務,分成n/m塊,這樣單張表的資料會少一些

3、針對橫向分表展開說

[1]按批次分表

新建一張表,複製原有表的全部字段以及資料,重新命名如:op_log重新命名為:op_log_2019back

然後清空原有表,所有的資料進入op_log。

[2]按時間分表

對所有的資料,按照資料生成年份或月份拆分成多個表,然後在所有的查詢中,都根據請求的資料時間,計算目標資料庫,然後查詢相關資料的資料。

[2.1]【待實踐】自動生成表

思路如下:

一條新的資料過來,判斷該資料,是否有目標資料庫(這個判斷可以將已有的資料庫,寫在redis或記憶體中),如果不存在資料庫,系統自動生成資料庫,然後再插入資料

相關方法可以上網查,這裡不展開說

億級資料量系統資料庫效能優化方案

一 資料庫效能瓶頸主要原因 1 資料庫連線 mysql資料庫預設連線為100,我們可以通過配置initialsize minidle maxactive等進行調優,但由於硬體資源的限制,資料庫連線不可能無限制的增加,對大型單體應用單例項資料庫可能會出現最大連線數不能滿足實際需求的情況,這時就會系統業...

Jcs對大資料量的處理方案

jcs的原理是利用快取獲取使用者所需要的資料,減少對資料庫的訪問,從而提高儲存效率。實現該方案的需要解決兩個問題 1.快取的資料從哪來 2.快取的資料的有效性 1.快取的資料從哪來 從根源來講,快取的資料應當在查詢過資料後放入cache,通常使用者在進行業務流程時,查詢資料 放入快取。但是這樣存在乙...

大資料量的處理

其實這個問題老是在面試的時候提到 1。建立專門的彙總表 這個表一般是每天晚上做統計處理 建立索引 索引的話,插入和修改會變慢,也是只做統計原因之一 用來查詢,如果量非常大,那麼分表,還是大,那麼分庫,就是資料倉儲概念了 2。關聯表查詢 多表聯合查詢 的大資料,首先就是1 把多個表做成乙個統計表,或者...