布隆過濾器
當乙個元素被加入集合時,通過 k個hash函式將這個元素對映成乙個位陣列中的k個點,把它們置為1。檢索時,我們只要看看這些點是不是都是1就(大約)知道集合中有沒有它。如果這些點有任何乙個0,則被檢元素一定不在;如果都是1,則 被檢元素很可能在。
常見hash函式
常見的應用比較廣的hash函式有md5,sha1,sha256,一般用於資訊保安方面,比如簽名認證和加密等。
比如我們傳輸檔案時習慣用對原檔案內容計算它的md5值,生成128 bit的整數,通常我們說的32位md5值,
是轉換為hex格式後的32個字元。
murmurhash是2023年發明的,相比較md5,murmurhash不太安全(當然md5也被破譯了,sha也可以被
破譯),但是效能是md5的幾十倍;murmurhash有很多個版本,murmurhash3修復了murmurhash2的一些
缺陷同時速度還要快一些,因此很多開源專案有用,比如nginx、redis、memcashed、hadoop等,比如用於
計算一致性hash等。
布隆過濾器演算法
n : 布隆過濾器預存數量
p : 假陽率
m:點陣圖的大小
k: 雜湊函式的個數
####### 獲得一定數量的雜湊函式
雙重雜湊封裝
如 hash1 = murmurhash2x64(key, len ,dwseed);
hash2 = murmurhash2x64(key, len ,dwseed);
則 hash_n = hash1 + i * hash2; 布隆過濾器
布隆過濾器 bloom filter 是1970年由布隆提出的。它實際上是乙個很長的二進位制向量和一系列隨機對映函式。布隆過濾器可以用於檢索乙個元素是否在乙個集合中。它的優點是空間效率和查詢時間都遠遠超過一般的演算法,缺點是有一定的誤識別率和刪除困難。如果想要判斷乙個元素是不是在乙個集合裡,一般想到...
布隆過濾器
布隆過濾器的概念 如果想要判斷乙個元素是不是在乙個集合裡,一般想到的是將所有元素儲存起來,然後通過比較確定。鍊錶,樹等等資料結構都是這種思路.但是隨著集合中元素的增加,我們需要的儲存空間越來越大,檢索速度也越來越慢 o n o logn 不過世界上還有一種叫作雜湊表 又叫 雜湊表,hash tabl...
布隆過濾器
如果想判斷乙個元素是不是在乙個集合裡,一般想到的是將集合中所有元素儲存起來,然後通過比較確定。鍊錶 樹 雜湊表 又叫雜湊表,hash table 等等資料結構都是這種思路。但是隨著集合中元素的增加,我們需要的儲存空間越來越大。同時檢索速度也越來越慢。bloom filter 是一種空間效率很高的隨機...