【C++】-- 哈希应用之布隆过滤器(一)

简介: 【C++】-- 哈希应用之布隆过滤器

一、布隆过滤器介绍

       位图有使用起来,节省空间,并且效率高的优点。位图的缺点,只能处理整形。

       假如起昵称时要看一个字符串有没有被占用,用一个bit位标识。哈希解决冲突时,可以把后续同样位置冲突的元素的挂起来,形成链表。但是现在,如果要用位图存储字符串,bit位存不了指针,挂不起来,处理不了哈希冲突。如果用哈希存储又会浪费空间。

       因此能不能考虑将哈希和位图结合针对字符串等非整形的类型,设计一个像位图一样的判断key在不在的节省空间的数据结构呢?可以——布隆过滤器

布隆过滤器是一种紧凑的、巧妙的概率型数据结构,能够高效插入查询,来判断一个元素在或不在,用多个哈希函数,把一个数据映射到位图中,不仅能提高查询效率,还能节省空间

映射多个位时,这种情况下也可能存在误判,但是误判概率低了,因为当映射的多个位都被占用才会冲突,才会导致误判。如上图中的"华山"还没存入呢,要映射的几个位都变成了1,这时会导致"华山"被误判。但是这种误判发送的概率比较低,只在几个位全都被占用的情况下才发生。

二、布隆过滤器实现

1.布隆过滤器

只需要位图一个成员即可:

1. #define  _CRT_SECURE_NO_WARNINGS  1
2. #pragma once
3. #include "BitSet.h"
4. #include <string>
5. using namespace std;
6. 
7. template<size_t N, class K = string, class Hash1 = HashBKDR, class Hash2 = HashAP, class Hash3 = HashDJB>
8. class BloomFilter
9. {
10. private:
11.   delia::BitSet<N> _bitset;
12. };

2.三种哈希函数

由于要用三种不同的哈希算法进行计算来降低冲突,因此,可以选择3种不同的哈希算法:

(1)BKDR哈希

1. struct HashBKDR
2. {
3.  size_t operator()(const string& s)
4.  {
5.    size_t value = 0;
6.    for (auto e : s)
7.    {
8.      value += e;
9.      value *= 131;
10.     }
11. 
12.     return value;
13.   }
14. };

(2)AP哈希

1. struct HashAP
2. {
3.  size_t operator()(const string& s)
4.  {
5.    register size_t hash = 0;
6.    size_t ch;
7.    for (long i = 0; i < s.size(); i++)
8.    {
9.      ch = s[i];
10.       if ((i & 1) == 0)
11.       {
12.         hash ^= ((hash << 7) ^ ch ^ (hash >> 3));
13.       }
14.       else
15.       {
16.         hash ^= (~(hash << 11) ^ ch ^ (hash >> 5));
17.       }
18.     }
19. 
20.     return hash;
21.   }
22. };

(3)DJB哈希

1. struct HashDJB
2. {
3.  size_t operator()(const string& s)
4.  {
5.    register size_t hash = 5381;
6.    for (auto e : s)
7.    {
8.      hash += (hash << 5) + e;
9.    }
10. 
11.     return hash;
12.   }
13. };

3.标识

用三种哈希函数分别计算对应的比特位,将这三个比特位都置1:

1.  void Set(const K& key)
2.  {
3.    size_t i1 = Hash1()(key) % N;//也可以写成Hash1 hf1; size_t i1 = hf1(key) % N;
4.    size_t i2 = Hash2()(key) % N;
5.    size_t i3 = Hash3()(key) % N;
6. 
7.    cout << i1 << " " << i2 << " " << i3 << endl;
8. 
9.    _bitset.set(i1);
10.     _bitset.set(i2);
11.     _bitset.set(i3);
12.   }

4.检查在不在

分别用三种哈希函数计算三个比特位,如果检测到有一个比特位为不在,那就返回不在:

1.  bool Tests(const K& key)
2.  {
3.    size_t i1 = Hash1()(key) % N;
4.    if (_bitset.test(i1) == false)
5.    {
6.      return false;
7.    }
8. 
9.    size_t i2 = Hash2()(key) % N;
10.     if (_bitset.test(i2) == false)
11.     {
12.       return false;
13.     }
14. 
15.     size_t i3 = Hash3()(key) % N;
16.     if (_bitset.test(i3) == false)
17.     {
18.       return false;
19.     }
20. 
21.     return true;//可能存在误判,如"华山"
22.   }

5.删除

布隆过滤器不能直接支持删除工作,因为在删除一个元素时,可能会影响其他元素

比如:删除"钟楼"元素,如果直接将该元素所对应的二进制比特位置0,“华山”元素也被删除了,因为这两个元素在多个哈希函数计算出的比特位上刚好有重叠。

三、完整代码段

BloomFilter.h:

1. #pragma once
2. #include "BitSet.h"
3. #include <string>
4. using namespace std;
5. 
6. //BKDR哈希
7. struct HashBKDR
8. {
9.  size_t operator()(const string& s)
10.   {
11.     size_t value = 0;
12.     for (auto e : s)
13.     {
14.       value += e;
15.       value *= 131;
16.     }
17. 
18.     return value;
19.   }
20. };
21. 
22. //AP哈希
23. struct HashAP
24. {
25.   size_t operator()(const string& s)
26.   {
27.     register size_t hash = 0;
28.     size_t ch;
29.     for (long i = 0; i<s.size(); i++)
30.     {
31.       ch = s[i];
32.       if ((i & 1) == 0)
33.       {
34.         hash ^= ((hash << 7) ^ ch ^ (hash >> 3));
35.       }
36.       else
37.       {
38.         hash ^= (~(hash << 11) ^ ch ^ (hash >> 5));
39.       }
40.     }
41. 
42.     return hash;
43.   }
44. };
45. 
46. //DJB哈希
47. struct HashDJB
48. {
49.   size_t operator()(const string& s)
50.   {
51.     register size_t hash = 5381;
52.     for (auto e : s)
53.     {
54.       hash += (hash << 5) + e;
55.     }
56. 
57.     return hash;
58.   }
59. };
60. 
61. template<size_t N, class K = string, class Hash1 = HashBKDR, class Hash2 = HashAP, class Hash3 = HashDJB>
62. class BloomFilter
63. {
64. public:
65.   void Set(const K& key)
66.   {
67.     size_t i1 = Hash1()(key) % N;//也可以写成Hash1 hf1; size_t i1 = hf1(key) % N;
68.     size_t i2 = Hash2()(key) % N;
69.     size_t i3 = Hash3()(key) % N;
70. 
71.     cout << i1 << " " << i2 << " " << i3 << endl;
72. 
73.     _bitset.set(i1);
74.     _bitset.set(i2);
75.     _bitset.set(i3);
76.   }
77. 
78.   bool Tests(const K& key)
79.   {
80.     size_t i1 = Hash1()(key) % N;
81.     if (_bitset.test(i1) == false)
82.     {
83.       return false;
84.     }
85. 
86.     size_t i2 = Hash2()(key) % N;
87.     if (_bitset.test(i2) == false)
88.     {
89.       return false;
90.     }
91. 
92.     size_t i3 = Hash3()(key) % N;
93.     if (_bitset.test(i3) == false)
94.     {
95.       return false;
96.     }
97. 
98.     return true;//可能存在误判,如"华山"
99.   }
100. private:
101.  delia::BitSet<N> _bitset;
102. };
103. 
104. void TestBloomFilter()
105. {
106.  BloomFilter<100> bf;
107.  bf.Set("大雁塔");
108.  bf.Set("钟楼");
109.  bf.Set("兵马俑");
110.  bf.Set("华山");
111. }

Test.cpp

1. #define  _CRT_SECURE_NO_WARNINGS  1
2. #include "BloomFilter.h"
3. 
4. int main()
5. {
6.  TestBloomFilter();
7.  return 0;
8. }

四、布隆过滤器优缺点

1.优点

(1)增加和查询元素的时间复杂度为:O(K), (K为哈希函数的个数,一般比较小),与数据量大小无关

(2)哈希函数相互之间没有关系,方便硬件并行运算

(3)布隆过滤器不需要存储元素本身,在某些对保密要求比较严格的场合有很大优势

(4)在能够承受一定的误判时,布隆过滤器比其他数据结构有这很大的空间优势

(5)数据量很大时,布隆过滤器可以表示全集,其他数据结构不能

(6)使用同一组散列函数的布隆过滤器可以进行交、并、差运算

2.缺点

(1)有误判率,即存在假阳性(False Position),即不能准确判断元素是否在集合中(补救方法:再建立一个白名单,存储可能会误判的数据)

(2)不能获取元素本身

(3)一般情况下不能从布隆过滤器中删除元素

(4)如果采用计数方式删除,可能会存在计数回绕问题

相关文章
|
7月前
|
存储 负载均衡 算法
基于 C++ 语言的迪杰斯特拉算法在局域网计算机管理中的应用剖析
在局域网计算机管理中,迪杰斯特拉算法用于优化网络路径、分配资源和定位故障节点,确保高效稳定的网络环境。该算法通过计算最短路径,提升数据传输速率与稳定性,实现负载均衡并快速排除故障。C++代码示例展示了其在网络模拟中的应用,为企业信息化建设提供有力支持。
190 15
|
4月前
|
机器学习/深度学习 存储 算法
基于 C++ 布隆过滤器算法的局域网上网行为控制:URL 访问过滤的高效实现研究
本文探讨了一种基于布隆过滤器的局域网上网行为控制方法,旨在解决传统黑白名单机制在处理海量URL数据时存储与查询效率低的问题。通过C++实现URL访问过滤功能,实验表明该方法可将内存占用降至传统方案的八分之一,查询速度提升约40%,假阳性率可控。研究为优化企业网络管理提供了新思路,并提出结合机器学习、改进哈希函数及分布式协同等未来优化方向。
101 0
|
7月前
|
存储 算法 安全
企业员工数据泄露防范策略:基于 C++ 语言的布隆过滤器算法剖析[如何防止员工泄密]
企业运营过程中,防范员工泄密是信息安全领域的核心议题。员工泄密可能致使企业核心数据、商业机密等关键资产的流失,进而给企业造成严重损失。为应对这一挑战,借助恰当的数据结构与算法成为强化信息防护的有效路径。本文专注于 C++ 语言中的布隆过滤器算法,深入探究其在防范员工泄密场景中的应用。
124 8
|
8月前
|
算法 Serverless 数据处理
从集思录可转债数据探秘:Python与C++实现的移动平均算法应用
本文探讨了如何利用移动平均算法分析集思录提供的可转债数据,帮助投资者把握价格趋势。通过Python和C++两种编程语言实现简单移动平均(SMA),展示了数据处理的具体方法。Python代码借助`pandas`库轻松计算5日SMA,而C++代码则通过高效的数据处理展示了SMA的计算过程。集思录平台提供了详尽且及时的可转债数据,助力投资者结合算法与社区讨论,做出更明智的投资决策。掌握这些工具和技术,有助于在复杂多变的金融市场中挖掘更多价值。
262 12
|
9月前
|
编译器 数据安全/隐私保护 C++
【C++面向对象——继承与派生】派生类的应用(头歌实践教学平台习题)【合集】
本实验旨在学习类的继承关系、不同继承方式下的访问控制及利用虚基类解决二义性问题。主要内容包括: 1. **类的继承关系基础概念**:介绍继承的定义及声明派生类的语法。 2. **不同继承方式下对基类成员的访问控制**:详细说明`public`、`private`和`protected`继承方式对基类成员的访问权限影响。 3. **利用虚基类解决二义性问题**:解释多继承中可能出现的二义性及其解决方案——虚基类。 实验任务要求从`people`类派生出`student`、`teacher`、`graduate`和`TA`类,添加特定属性并测试这些类的功能。最终通过创建教师和助教实例,验证代码
191 5
|
12月前
|
存储 并行计算 安全
C++多线程应用
【10月更文挑战第29天】C++ 中的多线程应用广泛,常见场景包括并行计算、网络编程中的并发服务器和图形用户界面(GUI)应用。通过多线程可以显著提升计算速度和响应能力。示例代码展示了如何使用 `pthread` 库创建和管理线程。注意事项包括数据同步与互斥、线程间通信和线程安全的类设计,以确保程序的正确性和稳定性。
243 5
|
存储 算法 C++
【算法】哈希映射(C/C++)
【算法】哈希映射(C/C++)
|
8月前
|
编译器 C++ 开发者
【C++篇】深度解析类与对象(下)
在上一篇博客中,我们学习了C++的基础类与对象概念,包括类的定义、对象的使用和构造函数的作用。在这一篇,我们将深入探讨C++类的一些重要特性,如构造函数的高级用法、类型转换、static成员、友元、内部类、匿名对象,以及对象拷贝优化等。这些内容可以帮助你更好地理解和应用面向对象编程的核心理念,提升代码的健壮性、灵活性和可维护性。
|
4月前
|
人工智能 机器人 编译器
c++模板初阶----函数模板与类模板
class 类模板名private://类内成员声明class Apublic:A(T val):a(val){}private:T a;return 0;运行结果:注意:类模板中的成员函数若是放在类外定义时,需要加模板参数列表。return 0;
105 0
|
4月前
|
存储 编译器 程序员
c++的类(附含explicit关键字,友元,内部类)
本文介绍了C++中类的核心概念与用法,涵盖封装、继承、多态三大特性。重点讲解了类的定义(`class`与`struct`)、访问限定符(`private`、`public`、`protected`)、类的作用域及成员函数的声明与定义分离。同时深入探讨了类的大小计算、`this`指针、默认成员函数(构造函数、析构函数、拷贝构造、赋值重载)以及运算符重载等内容。 文章还详细分析了`explicit`关键字的作用、静态成员(变量与函数)、友元(友元函数与友元类)的概念及其使用场景,并简要介绍了内部类的特性。
176 0