JAVA 你应该有所了解的布隆过滤器

简介: JAVA 你应该有所了解的布隆过滤器

布隆过滤器: 我说它不存在,它 百分之两百 不存在!


(我说它存在,可能我有说错的时候...)


前言:



该篇文章将会使用最精简易懂的文字以及小图来给大家介绍讲解(不对哈希策略计算进行详解)


一.布隆过滤器有啥用?


二.布隆过滤器原理是什么?


三.java中怎么使用布隆过滤器?


本篇文章内容可能较多,所以还请耐心。


一. 布隆过滤器  有啥用



简单两点叙述:


1. 存值


存值,就是把值存进去, 类似于我们很常用的map,set等;


2.检验值是否存在


检验,也就是我们想知道某个值是否存在于布隆过滤器里面,调用相关的检验方法,我们会得知一个结果。


特别注意:


布隆过滤器校验值的结果, 如果返回结果是 false ,不存在, 那么是肯定不存在的!


但是如果返回结果是true,存在,也许有概率是误报的。


为啥? 看下面的实现原理你就能明白。


二.布隆过滤器 原理是什么



首先,从上边介绍的布隆过滤器作用来说,就是个存东西的容器。


但是这个容器有也有自己的特点,


1. 它是一个有固定的大小的,也就是一开始设置它能放多少东西。


2.校验元素的准确率(指 true 存在的准确率),是会随着存的东西越多而准确率会慢慢降低


怎么才能更好地理解这个所谓的原理?


我选择根据布隆过滤器的作用角度去给大家讲解。


首先是存值的原理


既然是可以存放值,然后后面又能校验存在与否,那么这个存值显然不是直接丢进去就好,是需要通过算法计算的。


那么这里我不对这个算法进行深入地介绍,但是我会以我的图文方式告诉你,过程和结果。


模拟场景


一个完全是空的布隆过滤器,是一个由m个二进制位构成的数组,这里我们假设就是m=5个构成的。

image.png


默认一开始,这5个二进制位,简单理解为位置, 都是绑定着一个标识 0.


那么接下来看怎么存值。


布隆过滤器存值,实际上不是存的 真实值,而且通过算法计算后,存入对应的标识。


过程简述,也就是布隆过滤器拿到我们传入的值, 它会将这个值,使用 K个 哈希函数去进行算法计算,计算完后,


会得出K个 二进制位的标识 0或者1 ,然后对应位置就会存入这个标识0或者1.


存值过程举例说明:



我们需要存入的值为  ‘JCTest’ ,


布隆过滤器会采取相关的 计算公式,来算出 需要使用几个 哈希函数,也就是K的数量:

(m是数组长度,n是插入的元素个数,k是hash函数的个数)


公式大家可以简单了解下, 我们现在假设  K 是 3.


也就是说   ‘JCTest’ 需要经过3个哈希函数计算 h1 ,h2,h3。


那么经过算法计算后, 得出的结果是:


h1算法对 ‘JCTest’ 的结果是,二进制 位置 是  一


h2算法对 ‘JCTest’ 的结果是,二进制 位置 是  三


h2算法对 ‘JCTest’ 的结果是,二进制 位置 是  五



那么这时候,对应的图会变成这样:


一,三,五 位置的标识此刻会绑定上1


image.png


同样,我们存入第二个值 ‘BFTest’,假设也是需要经过 3个哈希函数,

计算出的二进制位 分别是 二 ,三,五, 那么此刻的布隆过滤器如:


image.png


到这里,其实我们已经了解了这个布隆过滤器的存值方式, 直白的说就是,每个值对于它来说,都会转化成几个位置的 1 ,只要你往里面存,它就会把位置变成1 ,直到所有位置都变成1了,那么就不能再存了(大家不用担心这个位置会不会很快就都变成1,因为我这里只是举例了5个位置,后面的使用介绍环节会告诉你存上百万都不是问题,因为这些m值,K值,都会根据我设置的存入个数size和期待误判率进行算法生成的。)


接下来讲解布隆过滤器的校验值存在与否的原理:


很简单,其实也是我们告诉布隆过滤器一个值, 它也会通过K计算公式,取出一定数量的哈希函数,也是计算出很多个位置,


然后去一个个位置监测,如果每个位置都是1,这时候 它会返回true,告诉我们,这个值存在;


而如果只要存在一个位置是0,这时候,它会返回 false,告诉我们,这个值不存在。


校验举例说明:



如果我们想校验一个值 ,‘JCTest’,


布隆过滤器通过公式计算得出它准备使用三个函数 h1,h2,h3,


然后计算出对应的二进制位 一,三 ,五  ,接着去检查对应的位置上绑定的标识,如果都是1,那么就会返回存在 true。


误判举例说明:



那怎么会误判呢?


那就是例如,我们传入一个需要校验的值,‘CSDNTest’,布隆过滤器通过相关函数算出,位置恰好也是一,二,三 ,那我们实际上根本没存过CSDNTest,


但是因为我们之前存JCtest 和 BFTest 导致了相关的位置都绑定了标识1,所以这时候布隆过滤器就产生了误判现象。(这个概率不高其实,接下来的实用介绍会了解到)


PS: 也是因为这种校验的策略,所以只要在校验的时候,检测到一个对应的位置不为1,那么毫无疑问!这个值是百分之两百不存在的!


三.java中怎么使用布隆过滤器



了解了布隆过滤器的作用和原理后,那么我们接下来在java中使用它。


该篇就不去手动实现布隆过滤器了,因为 在GoogleGuavalibrary中Google为我们提供了一个布隆过滤器的实现。


所以我们第一步,导入jar包:


        <dependency>
            <groupId>com.google.guava</groupId>
            <artifactId>guava</artifactId>
            <version>19.0</version>
        </dependency>


然后建一个BloomFilterTest.class :


import com.google.common.base.Charsets;
import com.google.common.hash.BloomFilter;
import com.google.common.hash.Funnels;
/**
 * @Author : JCccc
 * @CreateTime : 2020/3/31
 * @Description :
 **/
public class BloomFilterTest {
    private static int size = 1000000;//预计要插入多少数据
    private static double fpp = 0.01;//期望的误判率
    public static void main(String[] args) {
        //存入的是字符串
        BloomFilter<CharSequence> bloomFilterStr = BloomFilter.create(Funnels.stringFunnel(Charsets.UTF_8), size, fpp);
        for (int i = 0; i < size; i++) {
            bloomFilterStr.put("test" + i);
        }
        boolean containsValue1 = bloomFilterStr.mightContain("test1");
        boolean containsValue2 = bloomFilterStr.mightContain("test34");
        boolean containsValue3 = bloomFilterStr.mightContain("test1000001");
        System.out.println(containsValue1);
        System.out.println(containsValue2);
        System.out.println(containsValue3);
    }
}


校验结果:


image.png


然后再试下,使用布隆过滤器存入数字:


        BloomFilter<Integer> bloomFilterInt = BloomFilter.create(Funnels.integerFunnel(), size, fpp);
        for (int i=0; i<size;i++){
            bloomFilterInt.put(i);
        }
        boolean containsValue4 = bloomFilterInt.mightContain(1);
        boolean containsValue5 = bloomFilterInt.mightContain(2);
        boolean containsValue6 = bloomFilterInt.mightContain(10000002);
        System.out.println(containsValue4);
        System.out.println(containsValue5);
        System.out.println(containsValue6);


结果:


image.png


可以看到以上两存值&校验的测试都是准确无误的,那么我们大规模的存值检查,看看存在的误判现象:


我们刚刚往 bloomFilterInt 这个过滤器里面存入了0到1000000 个数字值,


那么接下来我们直接从1000000开始去累加到2000000,去进行校验,


我们明确知道 这时候的布隆过滤器里面有1百万个值,而我们的1000000到2000000除了‘1000000’其实都是不存在的,都应该返回false。


接下来我们用代码来模拟下这个判断存在 的误判现象:


        int size = 1000000;//预计要插入多少数据
        double fpp = 0.01;//期望的误判率
        BloomFilter<Integer> bloomFilterInt = BloomFilter.create(Funnels.integerFunnel(), size, fpp);
        for (int i=0; i<size;i++){
            bloomFilterInt.put(i);
        }
        int count = 0;
        for (int i = 1000000; i < 2000000; i++) {
            if (bloomFilterInt.mightContain(i)) {
                count++;
                System.out.println(i + "误判了");
            }
        }
        System.out.println("总共的误判数:" + count);


结果:


image.png


在这一百万个数值的布隆过滤器里面,再校验一百万次,存在的误判数是10314次。


所以咱们使用布隆过滤器进行值的存入和校验时,


我们应该更偏向使用 它返回的false 进行结合业务做操作,因为它的判断如果返回fasle,那是百分之两百可信的!


当然其实true误报的情况,概率也是非常小的,在一定的业务场景也能使用的其实。


ps:


例如,我们先到布隆过滤器查询一个订单是否存在,不存在就当失败订单处理;


存在的话,我们再去数据库获取详情信息进行订单的后续操作。


这时候只需要我们再接收到订单存入数据库的时候,把单独的订单号存入布隆过滤器即可。


就算布隆过滤器误判了,我们再去数据库查询订单时,加上多一步校验存在与否即可。


这样就可以减轻每个订单都需要查数据库的压力。


(其实有过了解redis使用的小伙伴,就明显知道布隆过滤器配和redis使用会非常不错,可以一定程度防止缓存穿透,这些我有时间会在我的redis栏目写一篇对缓存穿透和缓存雪崩的介绍和解决思路相关的文章)


那么这篇普及布隆过滤器就先到这吧。

相关文章
|
3月前
|
存储 缓存 NoSQL
在Java中实现redis缓存中的布隆过滤器
在Java中实现redis缓存中的布隆过滤器
70 0
|
存储 数据采集 缓存
【java基础】布隆过滤器详解
【java基础】布隆过滤器详解
88 0
|
存储 缓存 NoSQL
【Java项目】布隆过滤器解决缓存穿透问题以及布隆过滤器删除困难问题
【Java项目】布隆过滤器解决缓存穿透问题以及布隆过滤器删除困难问题
222 0
|
8天前
|
安全 Java 数据处理
Java并发编程:解锁多线程的潜力
在数字化时代的浪潮中,Java作为一门广泛使用的编程语言,其并发编程能力是提升应用性能和响应速度的关键。本文将带你深入理解Java并发编程的核心概念,探索如何通过多线程技术有效利用计算资源,并实现高效的数据处理。我们将从基础出发,逐步揭开高效并发编程的面纱,让你的程序运行得更快、更稳、更强。
|
7天前
|
Java 开发者
奇迹时刻!探索 Java 多线程的奇幻之旅:Thread 类和 Runnable 接口的惊人对决
【8月更文挑战第13天】Java的多线程特性能显著提升程序性能与响应性。本文通过示例代码详细解析了两种核心实现方式:Thread类与Runnable接口。Thread类适用于简单场景,直接定义线程行为;Runnable接口则更适合复杂的项目结构,尤其在需要继承其他类时,能保持代码的清晰与模块化。理解两者差异有助于开发者在实际应用中做出合理选择,构建高效稳定的多线程程序。
28 7
|
6天前
|
安全 Java 数据库
一天十道Java面试题----第四天(线程池复用的原理------>spring事务的实现方式原理以及隔离级别)
这篇文章是关于Java面试题的笔记,涵盖了线程池复用原理、Spring框架基础、AOP和IOC概念、Bean生命周期和作用域、单例Bean的线程安全性、Spring中使用的设计模式、以及Spring事务的实现方式和隔离级别等知识点。
|
6天前
|
存储 监控 安全
一天十道Java面试题----第三天(对线程安全的理解------>线程池中阻塞队列的作用)
这篇文章是Java面试第三天的笔记,讨论了线程安全、Thread与Runnable的区别、守护线程、ThreadLocal原理及内存泄漏问题、并发并行串行的概念、并发三大特性、线程池的使用原因和解释、线程池处理流程,以及线程池中阻塞队列的作用和设计考虑。
|
1天前
|
Java
java开启线程的四种方法
这篇文章介绍了Java中开启线程的四种方法,包括继承Thread类、实现Runnable接口、实现Callable接口和创建线程池,每种方法都提供了代码实现和测试结果。
java开启线程的四种方法
|
3天前
|
存储 缓存 安全
深度剖析Java HashMap:源码分析、线程安全与最佳实践
深度剖析Java HashMap:源码分析、线程安全与最佳实践
|
6天前
|
安全 Java
Java模拟生产者-消费者问题。生产者不断的往仓库中存放产品,消费者从仓库中消费产品。其中生产者和消费者都可以有若干个。在这里,生产者是一个线程,消费者是一个线程。仓库容量有限,只有库满时生产者不能存
该博客文章通过Java代码示例演示了生产者-消费者问题,其中生产者在仓库未满时生产产品,消费者在仓库有产品时消费产品,通过同步机制确保多线程环境下的线程安全和有效通信。