布隆過濾器

2021-10-17 16:11:47 字數 809 閱讀 4587

布隆過濾器

當乙個元素被加入集合時,通過 k個hash函式將這個元素對映成乙個位陣列中的k個點,把它們置為1。檢索時,我們只要看看這些點是不是都是1就(大約)知道集合中有沒有它。如果這些點有任何乙個0,則被檢元素一定不在;如果都是1,則 被檢元素很可能在。

常見hash函式

常見的應用比較廣的hash函式有md5,sha1,sha256,一般用於資訊保安方面,比如簽名認證和加密等。

比如我們傳輸檔案時習慣用對原檔案內容計算它的md5值,生成128 bit的整數,通常我們說的32位md5值,

是轉換為hex格式後的32個字元。

murmurhash是2023年發明的,相比較md5,murmurhash不太安全(當然md5也被破譯了,sha也可以被

破譯),但是效能是md5的幾十倍;murmurhash有很多個版本,murmurhash3修復了murmurhash2的一些

缺陷同時速度還要快一些,因此很多開源專案有用,比如nginx、redis、memcashed、hadoop等,比如用於

計算一致性hash等。

布隆過濾器演算法

n : 布隆過濾器預存數量

p : 假陽率

m:點陣圖的大小

k: 雜湊函式的個數

####### 獲得一定數量的雜湊函式

雙重雜湊封裝

如 hash1 = murmurhash2x64(key, len ,dwseed);

hash2 = murmurhash2x64(key, len ,dwseed);
則 hash_n = hash1 + i * hash2;

布隆過濾器

布隆過濾器 bloom filter 是1970年由布隆提出的。它實際上是乙個很長的二進位制向量和一系列隨機對映函式。布隆過濾器可以用於檢索乙個元素是否在乙個集合中。它的優點是空間效率和查詢時間都遠遠超過一般的演算法,缺點是有一定的誤識別率和刪除困難。如果想要判斷乙個元素是不是在乙個集合裡,一般想到...

布隆過濾器

布隆過濾器的概念 如果想要判斷乙個元素是不是在乙個集合裡,一般想到的是將所有元素儲存起來,然後通過比較確定。鍊錶,樹等等資料結構都是這種思路.但是隨著集合中元素的增加,我們需要的儲存空間越來越大,檢索速度也越來越慢 o n o logn 不過世界上還有一種叫作雜湊表 又叫 雜湊表,hash tabl...

布隆過濾器

如果想判斷乙個元素是不是在乙個集合裡,一般想到的是將集合中所有元素儲存起來,然後通過比較確定。鍊錶 樹 雜湊表 又叫雜湊表,hash table 等等資料結構都是這種思路。但是隨著集合中元素的增加,我們需要的儲存空間越來越大。同時檢索速度也越來越慢。bloom filter 是一種空間效率很高的隨機...