【C++】-- 哈希应用之布隆过滤器(一)

简介: 【C++】-- 哈希应用之布隆过滤器

一、布隆过滤器介绍

       位图有使用起来,节省空间,并且效率高的优点。位图的缺点,只能处理整形。

       假如起昵称时要看一个字符串有没有被占用,用一个bit位标识。哈希解决冲突时,可以把后续同样位置冲突的元素的挂起来,形成链表。但是现在,如果要用位图存储字符串,bit位存不了指针,挂不起来,处理不了哈希冲突。如果用哈希存储又会浪费空间。

       因此能不能考虑将哈希和位图结合针对字符串等非整形的类型,设计一个像位图一样的判断key在不在的节省空间的数据结构呢?可以——布隆过滤器

布隆过滤器是一种紧凑的、巧妙的概率型数据结构,能够高效插入查询,来判断一个元素在或不在,用多个哈希函数,把一个数据映射到位图中,不仅能提高查询效率,还能节省空间

映射多个位时,这种情况下也可能存在误判,但是误判概率低了,因为当映射的多个位都被占用才会冲突,才会导致误判。如上图中的"华山"还没存入呢,要映射的几个位都变成了1,这时会导致"华山"被误判。但是这种误判发送的概率比较低,只在几个位全都被占用的情况下才发生。

二、布隆过滤器实现

1.布隆过滤器

只需要位图一个成员即可:

1. #define  _CRT_SECURE_NO_WARNINGS  1
2. #pragma once
3. #include "BitSet.h"
4. #include <string>
5. using namespace std;
6. 
7. template<size_t N, class K = string, class Hash1 = HashBKDR, class Hash2 = HashAP, class Hash3 = HashDJB>
8. class BloomFilter
9. {
10. private:
11.   delia::BitSet<N> _bitset;
12. };

2.三种哈希函数

由于要用三种不同的哈希算法进行计算来降低冲突,因此,可以选择3种不同的哈希算法:

(1)BKDR哈希

1. struct HashBKDR
2. {
3.  size_t operator()(const string& s)
4.  {
5.    size_t value = 0;
6.    for (auto e : s)
7.    {
8.      value += e;
9.      value *= 131;
10.     }
11. 
12.     return value;
13.   }
14. };

(2)AP哈希

1. struct HashAP
2. {
3.  size_t operator()(const string& s)
4.  {
5.    register size_t hash = 0;
6.    size_t ch;
7.    for (long i = 0; i < s.size(); i++)
8.    {
9.      ch = s[i];
10.       if ((i & 1) == 0)
11.       {
12.         hash ^= ((hash << 7) ^ ch ^ (hash >> 3));
13.       }
14.       else
15.       {
16.         hash ^= (~(hash << 11) ^ ch ^ (hash >> 5));
17.       }
18.     }
19. 
20.     return hash;
21.   }
22. };

(3)DJB哈希

1. struct HashDJB
2. {
3.  size_t operator()(const string& s)
4.  {
5.    register size_t hash = 5381;
6.    for (auto e : s)
7.    {
8.      hash += (hash << 5) + e;
9.    }
10. 
11.     return hash;
12.   }
13. };

3.标识

用三种哈希函数分别计算对应的比特位,将这三个比特位都置1:

1.  void Set(const K& key)
2.  {
3.    size_t i1 = Hash1()(key) % N;//也可以写成Hash1 hf1; size_t i1 = hf1(key) % N;
4.    size_t i2 = Hash2()(key) % N;
5.    size_t i3 = Hash3()(key) % N;
6. 
7.    cout << i1 << " " << i2 << " " << i3 << endl;
8. 
9.    _bitset.set(i1);
10.     _bitset.set(i2);
11.     _bitset.set(i3);
12.   }

4.检查在不在

分别用三种哈希函数计算三个比特位,如果检测到有一个比特位为不在,那就返回不在:

1.  bool Tests(const K& key)
2.  {
3.    size_t i1 = Hash1()(key) % N;
4.    if (_bitset.test(i1) == false)
5.    {
6.      return false;
7.    }
8. 
9.    size_t i2 = Hash2()(key) % N;
10.     if (_bitset.test(i2) == false)
11.     {
12.       return false;
13.     }
14. 
15.     size_t i3 = Hash3()(key) % N;
16.     if (_bitset.test(i3) == false)
17.     {
18.       return false;
19.     }
20. 
21.     return true;//可能存在误判,如"华山"
22.   }

5.删除

布隆过滤器不能直接支持删除工作,因为在删除一个元素时,可能会影响其他元素

比如:删除"钟楼"元素,如果直接将该元素所对应的二进制比特位置0,“华山”元素也被删除了,因为这两个元素在多个哈希函数计算出的比特位上刚好有重叠。

三、完整代码段

BloomFilter.h:

1. #pragma once
2. #include "BitSet.h"
3. #include <string>
4. using namespace std;
5. 
6. //BKDR哈希
7. struct HashBKDR
8. {
9.  size_t operator()(const string& s)
10.   {
11.     size_t value = 0;
12.     for (auto e : s)
13.     {
14.       value += e;
15.       value *= 131;
16.     }
17. 
18.     return value;
19.   }
20. };
21. 
22. //AP哈希
23. struct HashAP
24. {
25.   size_t operator()(const string& s)
26.   {
27.     register size_t hash = 0;
28.     size_t ch;
29.     for (long i = 0; i<s.size(); i++)
30.     {
31.       ch = s[i];
32.       if ((i & 1) == 0)
33.       {
34.         hash ^= ((hash << 7) ^ ch ^ (hash >> 3));
35.       }
36.       else
37.       {
38.         hash ^= (~(hash << 11) ^ ch ^ (hash >> 5));
39.       }
40.     }
41. 
42.     return hash;
43.   }
44. };
45. 
46. //DJB哈希
47. struct HashDJB
48. {
49.   size_t operator()(const string& s)
50.   {
51.     register size_t hash = 5381;
52.     for (auto e : s)
53.     {
54.       hash += (hash << 5) + e;
55.     }
56. 
57.     return hash;
58.   }
59. };
60. 
61. template<size_t N, class K = string, class Hash1 = HashBKDR, class Hash2 = HashAP, class Hash3 = HashDJB>
62. class BloomFilter
63. {
64. public:
65.   void Set(const K& key)
66.   {
67.     size_t i1 = Hash1()(key) % N;//也可以写成Hash1 hf1; size_t i1 = hf1(key) % N;
68.     size_t i2 = Hash2()(key) % N;
69.     size_t i3 = Hash3()(key) % N;
70. 
71.     cout << i1 << " " << i2 << " " << i3 << endl;
72. 
73.     _bitset.set(i1);
74.     _bitset.set(i2);
75.     _bitset.set(i3);
76.   }
77. 
78.   bool Tests(const K& key)
79.   {
80.     size_t i1 = Hash1()(key) % N;
81.     if (_bitset.test(i1) == false)
82.     {
83.       return false;
84.     }
85. 
86.     size_t i2 = Hash2()(key) % N;
87.     if (_bitset.test(i2) == false)
88.     {
89.       return false;
90.     }
91. 
92.     size_t i3 = Hash3()(key) % N;
93.     if (_bitset.test(i3) == false)
94.     {
95.       return false;
96.     }
97. 
98.     return true;//可能存在误判,如"华山"
99.   }
100. private:
101.  delia::BitSet<N> _bitset;
102. };
103. 
104. void TestBloomFilter()
105. {
106.  BloomFilter<100> bf;
107.  bf.Set("大雁塔");
108.  bf.Set("钟楼");
109.  bf.Set("兵马俑");
110.  bf.Set("华山");
111. }

Test.cpp

1. #define  _CRT_SECURE_NO_WARNINGS  1
2. #include "BloomFilter.h"
3. 
4. int main()
5. {
6.  TestBloomFilter();
7.  return 0;
8. }

四、布隆过滤器优缺点

1.优点

(1)增加和查询元素的时间复杂度为:O(K), (K为哈希函数的个数,一般比较小),与数据量大小无关

(2)哈希函数相互之间没有关系,方便硬件并行运算

(3)布隆过滤器不需要存储元素本身,在某些对保密要求比较严格的场合有很大优势

(4)在能够承受一定的误判时,布隆过滤器比其他数据结构有这很大的空间优势

(5)数据量很大时,布隆过滤器可以表示全集,其他数据结构不能

(6)使用同一组散列函数的布隆过滤器可以进行交、并、差运算

2.缺点

(1)有误判率,即存在假阳性(False Position),即不能准确判断元素是否在集合中(补救方法:再建立一个白名单,存储可能会误判的数据)

(2)不能获取元素本身

(3)一般情况下不能从布隆过滤器中删除元素

(4)如果采用计数方式删除,可能会存在计数回绕问题

相关文章
|
2月前
|
存储 并行计算 安全
C++多线程应用
【10月更文挑战第29天】C++ 中的多线程应用广泛,常见场景包括并行计算、网络编程中的并发服务器和图形用户界面(GUI)应用。通过多线程可以显著提升计算速度和响应能力。示例代码展示了如何使用 `pthread` 库创建和管理线程。注意事项包括数据同步与互斥、线程间通信和线程安全的类设计,以确保程序的正确性和稳定性。
|
2月前
|
存储 编译器 C++
【C++篇】揭开 C++ STL list 容器的神秘面纱:从底层设计到高效应用的全景解析(附源码)
【C++篇】揭开 C++ STL list 容器的神秘面纱:从底层设计到高效应用的全景解析(附源码)
62 2
|
3月前
|
编译器 C++
【C++核心】函数的应用和提高详解
这篇文章详细讲解了C++函数的定义、调用、值传递、常见样式、声明、分文件编写以及函数提高的内容,包括函数默认参数、占位参数、重载等高级用法。
28 3
|
2月前
|
存储 算法 C++
【算法】哈希映射(C/C++)
【算法】哈希映射(C/C++)
|
4月前
|
存储 算法 C++
C++ STL应用宝典:高效处理数据的艺术与实战技巧大揭秘!
【8月更文挑战第22天】C++ STL(标准模板库)是一组高效的数据结构与算法集合,极大提升编程效率与代码可读性。它包括容器、迭代器、算法等组件。例如,统计文本中单词频率可用`std::map`和`std::ifstream`实现;对数据排序及找极值则可通过`std::vector`结合`std::sort`、`std::min/max_element`完成;而快速查找字符串则适合使用`std::set`配合其内置的`find`方法。这些示例展示了STL的强大功能,有助于编写简洁高效的代码。
53 2
|
4月前
|
JSON Android开发 C++
Android c++ core guideline checker 应用
Android c++ core guideline checker 应用
|
20天前
|
存储 编译器 C语言
【c++丨STL】string类的使用
本文介绍了C++中`string`类的基本概念及其主要接口。`string`类在C++标准库中扮演着重要角色,它提供了比C语言中字符串处理函数更丰富、安全和便捷的功能。文章详细讲解了`string`类的构造函数、赋值运算符、容量管理接口、元素访问及遍历方法、字符串修改操作、字符串运算接口、常量成员和非成员函数等内容。通过实例演示了如何使用这些接口进行字符串的创建、修改、查找和比较等操作,帮助读者更好地理解和掌握`string`类的应用。
30 2
|
26天前
|
存储 编译器 C++
【c++】类和对象(下)(取地址运算符重载、深究构造函数、类型转换、static修饰成员、友元、内部类、匿名对象)
本文介绍了C++中类和对象的高级特性,包括取地址运算符重载、构造函数的初始化列表、类型转换、static修饰成员、友元、内部类及匿名对象等内容。文章详细解释了每个概念的使用方法和注意事项,帮助读者深入了解C++面向对象编程的核心机制。
66 5
|
1月前
|
存储 编译器 C++
【c++】类和对象(中)(构造函数、析构函数、拷贝构造、赋值重载)
本文深入探讨了C++类的默认成员函数,包括构造函数、析构函数、拷贝构造函数和赋值重载。构造函数用于对象的初始化,析构函数用于对象销毁时的资源清理,拷贝构造函数用于对象的拷贝,赋值重载用于已存在对象的赋值。文章详细介绍了每个函数的特点、使用方法及注意事项,并提供了代码示例。这些默认成员函数确保了资源的正确管理和对象状态的维护。
70 4
|
1月前
|
存储 编译器 Linux
【c++】类和对象(上)(类的定义格式、访问限定符、类域、类的实例化、对象的内存大小、this指针)
本文介绍了C++中的类和对象,包括类的概念、定义格式、访问限定符、类域、对象的创建及内存大小、以及this指针。通过示例代码详细解释了类的定义、成员函数和成员变量的作用,以及如何使用访问限定符控制成员的访问权限。此外,还讨论了对象的内存分配规则和this指针的使用场景,帮助读者深入理解面向对象编程的核心概念。
80 4