JAVA 你应该有所了解的布隆过滤器

简介: JAVA 你应该有所了解的布隆过滤器

布隆过滤器: 我说它不存在,它 百分之两百 不存在!


(我说它存在,可能我有说错的时候...)


前言:



该篇文章将会使用最精简易懂的文字以及小图来给大家介绍讲解(不对哈希策略计算进行详解)


一.布隆过滤器有啥用?


二.布隆过滤器原理是什么?


三.java中怎么使用布隆过滤器?


本篇文章内容可能较多,所以还请耐心。


一. 布隆过滤器  有啥用



简单两点叙述:


1. 存值


存值,就是把值存进去, 类似于我们很常用的map,set等;


2.检验值是否存在


检验,也就是我们想知道某个值是否存在于布隆过滤器里面,调用相关的检验方法,我们会得知一个结果。


特别注意:


布隆过滤器校验值的结果, 如果返回结果是 false ,不存在, 那么是肯定不存在的!


但是如果返回结果是true,存在,也许有概率是误报的。


为啥? 看下面的实现原理你就能明白。


二.布隆过滤器 原理是什么



首先,从上边介绍的布隆过滤器作用来说,就是个存东西的容器。


但是这个容器有也有自己的特点,


1. 它是一个有固定的大小的,也就是一开始设置它能放多少东西。


2.校验元素的准确率(指 true 存在的准确率),是会随着存的东西越多而准确率会慢慢降低


怎么才能更好地理解这个所谓的原理?


我选择根据布隆过滤器的作用角度去给大家讲解。


首先是存值的原理


既然是可以存放值,然后后面又能校验存在与否,那么这个存值显然不是直接丢进去就好,是需要通过算法计算的。


那么这里我不对这个算法进行深入地介绍,但是我会以我的图文方式告诉你,过程和结果。


模拟场景


一个完全是空的布隆过滤器,是一个由m个二进制位构成的数组,这里我们假设就是m=5个构成的。

image.png


默认一开始,这5个二进制位,简单理解为位置, 都是绑定着一个标识 0.


那么接下来看怎么存值。


布隆过滤器存值,实际上不是存的 真实值,而且通过算法计算后,存入对应的标识。


过程简述,也就是布隆过滤器拿到我们传入的值, 它会将这个值,使用 K个 哈希函数去进行算法计算,计算完后,


会得出K个 二进制位的标识 0或者1 ,然后对应位置就会存入这个标识0或者1.


存值过程举例说明:



我们需要存入的值为  ‘JCTest’ ,


布隆过滤器会采取相关的 计算公式,来算出 需要使用几个 哈希函数,也就是K的数量:

(m是数组长度,n是插入的元素个数,k是hash函数的个数)


公式大家可以简单了解下, 我们现在假设  K 是 3.


也就是说   ‘JCTest’ 需要经过3个哈希函数计算 h1 ,h2,h3。


那么经过算法计算后, 得出的结果是:


h1算法对 ‘JCTest’ 的结果是,二进制 位置 是  一


h2算法对 ‘JCTest’ 的结果是,二进制 位置 是  三


h2算法对 ‘JCTest’ 的结果是,二进制 位置 是  五



那么这时候,对应的图会变成这样:


一,三,五 位置的标识此刻会绑定上1


image.png


同样,我们存入第二个值 ‘BFTest’,假设也是需要经过 3个哈希函数,

计算出的二进制位 分别是 二 ,三,五, 那么此刻的布隆过滤器如:


image.png


到这里,其实我们已经了解了这个布隆过滤器的存值方式, 直白的说就是,每个值对于它来说,都会转化成几个位置的 1 ,只要你往里面存,它就会把位置变成1 ,直到所有位置都变成1了,那么就不能再存了(大家不用担心这个位置会不会很快就都变成1,因为我这里只是举例了5个位置,后面的使用介绍环节会告诉你存上百万都不是问题,因为这些m值,K值,都会根据我设置的存入个数size和期待误判率进行算法生成的。)


接下来讲解布隆过滤器的校验值存在与否的原理:


很简单,其实也是我们告诉布隆过滤器一个值, 它也会通过K计算公式,取出一定数量的哈希函数,也是计算出很多个位置,


然后去一个个位置监测,如果每个位置都是1,这时候 它会返回true,告诉我们,这个值存在;


而如果只要存在一个位置是0,这时候,它会返回 false,告诉我们,这个值不存在。


校验举例说明:



如果我们想校验一个值 ,‘JCTest’,


布隆过滤器通过公式计算得出它准备使用三个函数 h1,h2,h3,


然后计算出对应的二进制位 一,三 ,五  ,接着去检查对应的位置上绑定的标识,如果都是1,那么就会返回存在 true。


误判举例说明:



那怎么会误判呢?


那就是例如,我们传入一个需要校验的值,‘CSDNTest’,布隆过滤器通过相关函数算出,位置恰好也是一,二,三 ,那我们实际上根本没存过CSDNTest,


但是因为我们之前存JCtest 和 BFTest 导致了相关的位置都绑定了标识1,所以这时候布隆过滤器就产生了误判现象。(这个概率不高其实,接下来的实用介绍会了解到)


PS: 也是因为这种校验的策略,所以只要在校验的时候,检测到一个对应的位置不为1,那么毫无疑问!这个值是百分之两百不存在的!


三.java中怎么使用布隆过滤器



了解了布隆过滤器的作用和原理后,那么我们接下来在java中使用它。


该篇就不去手动实现布隆过滤器了,因为 在GoogleGuavalibrary中Google为我们提供了一个布隆过滤器的实现。


所以我们第一步,导入jar包:


        <dependency>
            <groupId>com.google.guava</groupId>
            <artifactId>guava</artifactId>
            <version>19.0</version>
        </dependency>


然后建一个BloomFilterTest.class :


import com.google.common.base.Charsets;
import com.google.common.hash.BloomFilter;
import com.google.common.hash.Funnels;
/**
 * @Author : JCccc
 * @CreateTime : 2020/3/31
 * @Description :
 **/
public class BloomFilterTest {
    private static int size = 1000000;//预计要插入多少数据
    private static double fpp = 0.01;//期望的误判率
    public static void main(String[] args) {
        //存入的是字符串
        BloomFilter<CharSequence> bloomFilterStr = BloomFilter.create(Funnels.stringFunnel(Charsets.UTF_8), size, fpp);
        for (int i = 0; i < size; i++) {
            bloomFilterStr.put("test" + i);
        }
        boolean containsValue1 = bloomFilterStr.mightContain("test1");
        boolean containsValue2 = bloomFilterStr.mightContain("test34");
        boolean containsValue3 = bloomFilterStr.mightContain("test1000001");
        System.out.println(containsValue1);
        System.out.println(containsValue2);
        System.out.println(containsValue3);
    }
}


校验结果:


image.png


然后再试下,使用布隆过滤器存入数字:


        BloomFilter<Integer> bloomFilterInt = BloomFilter.create(Funnels.integerFunnel(), size, fpp);
        for (int i=0; i<size;i++){
            bloomFilterInt.put(i);
        }
        boolean containsValue4 = bloomFilterInt.mightContain(1);
        boolean containsValue5 = bloomFilterInt.mightContain(2);
        boolean containsValue6 = bloomFilterInt.mightContain(10000002);
        System.out.println(containsValue4);
        System.out.println(containsValue5);
        System.out.println(containsValue6);


结果:


image.png


可以看到以上两存值&校验的测试都是准确无误的,那么我们大规模的存值检查,看看存在的误判现象:


我们刚刚往 bloomFilterInt 这个过滤器里面存入了0到1000000 个数字值,


那么接下来我们直接从1000000开始去累加到2000000,去进行校验,


我们明确知道 这时候的布隆过滤器里面有1百万个值,而我们的1000000到2000000除了‘1000000’其实都是不存在的,都应该返回false。


接下来我们用代码来模拟下这个判断存在 的误判现象:


        int size = 1000000;//预计要插入多少数据
        double fpp = 0.01;//期望的误判率
        BloomFilter<Integer> bloomFilterInt = BloomFilter.create(Funnels.integerFunnel(), size, fpp);
        for (int i=0; i<size;i++){
            bloomFilterInt.put(i);
        }
        int count = 0;
        for (int i = 1000000; i < 2000000; i++) {
            if (bloomFilterInt.mightContain(i)) {
                count++;
                System.out.println(i + "误判了");
            }
        }
        System.out.println("总共的误判数:" + count);


结果:


image.png


在这一百万个数值的布隆过滤器里面,再校验一百万次,存在的误判数是10314次。


所以咱们使用布隆过滤器进行值的存入和校验时,


我们应该更偏向使用 它返回的false 进行结合业务做操作,因为它的判断如果返回fasle,那是百分之两百可信的!


当然其实true误报的情况,概率也是非常小的,在一定的业务场景也能使用的其实。


ps:


例如,我们先到布隆过滤器查询一个订单是否存在,不存在就当失败订单处理;


存在的话,我们再去数据库获取详情信息进行订单的后续操作。


这时候只需要我们再接收到订单存入数据库的时候,把单独的订单号存入布隆过滤器即可。


就算布隆过滤器误判了,我们再去数据库查询订单时,加上多一步校验存在与否即可。


这样就可以减轻每个订单都需要查数据库的压力。


(其实有过了解redis使用的小伙伴,就明显知道布隆过滤器配和redis使用会非常不错,可以一定程度防止缓存穿透,这些我有时间会在我的redis栏目写一篇对缓存穿透和缓存雪崩的介绍和解决思路相关的文章)


那么这篇普及布隆过滤器就先到这吧。

相关文章
|
8月前
|
存储 缓存 NoSQL
在Java中实现redis缓存中的布隆过滤器
在Java中实现redis缓存中的布隆过滤器
170 0
|
存储 数据采集 缓存
【java基础】布隆过滤器详解
【java基础】布隆过滤器详解
128 0
|
存储 缓存 NoSQL
【Java项目】布隆过滤器解决缓存穿透问题以及布隆过滤器删除困难问题
【Java项目】布隆过滤器解决缓存穿透问题以及布隆过滤器删除困难问题
280 0
|
5天前
|
监控 Java
java异步判断线程池所有任务是否执行完
通过上述步骤,您可以在Java中实现异步判断线程池所有任务是否执行完毕。这种方法使用了 `CompletionService`来监控任务的完成情况,并通过一个独立线程异步检查所有任务的执行状态。这种设计不仅简洁高效,还能确保在大量任务处理时程序的稳定性和可维护性。希望本文能为您的开发工作提供实用的指导和帮助。
42 17
|
15天前
|
Java
Java—多线程实现生产消费者
本文介绍了多线程实现生产消费者模式的三个版本。Version1包含四个类:`Producer`(生产者)、`Consumer`(消费者)、`Resource`(公共资源)和`TestMain`(测试类)。通过`synchronized`和`wait/notify`机制控制线程同步,但存在多个生产者或消费者时可能出现多次生产和消费的问题。 Version2将`if`改为`while`,解决了多次生产和消费的问题,但仍可能因`notify()`随机唤醒线程而导致死锁。因此,引入了`notifyAll()`来唤醒所有等待线程,但这会带来性能问题。
Java—多线程实现生产消费者
|
1天前
|
缓存 安全 算法
Java 多线程 面试题
Java 多线程 相关基础面试题
|
17天前
|
安全 Java Kotlin
Java多线程——synchronized、volatile 保障可见性
Java多线程中,`synchronized` 和 `volatile` 关键字用于保障可见性。`synchronized` 保证原子性、可见性和有序性,通过锁机制确保线程安全;`volatile` 仅保证可见性和有序性,不保证原子性。代码示例展示了如何使用 `synchronized` 和 `volatile` 解决主线程无法感知子线程修改共享变量的问题。总结:`volatile` 确保不同线程对共享变量操作的可见性,使一个线程修改后,其他线程能立即看到最新值。
|
17天前
|
消息中间件 缓存 安全
Java多线程是什么
Java多线程简介:本文介绍了Java中常见的线程池类型,包括`newCachedThreadPool`(适用于短期异步任务)、`newFixedThreadPool`(适用于固定数量的长期任务)、`newScheduledThreadPool`(支持定时和周期性任务)以及`newSingleThreadExecutor`(保证任务顺序执行)。同时,文章还讲解了Java中的锁机制,如`synchronized`关键字、CAS操作及其实现方式,并详细描述了可重入锁`ReentrantLock`和读写锁`ReadWriteLock`的工作原理与应用场景。
|
18天前
|
安全 Java 编译器
深入理解Java中synchronized三种使用方式:助您写出线程安全的代码
`synchronized` 是 Java 中的关键字,用于实现线程同步,确保多个线程互斥访问共享资源。它通过内置的监视器锁机制,防止多个线程同时执行被 `synchronized` 修饰的方法或代码块。`synchronized` 可以修饰非静态方法、静态方法和代码块,分别锁定实例对象、类对象或指定的对象。其底层原理基于 JVM 的指令和对象的监视器,JDK 1.6 后引入了偏向锁、轻量级锁等优化措施,提高了性能。
42 3
|
18天前
|
存储 安全 Java
Java多线程编程秘籍:各种方案一网打尽,不要错过!
Java 中实现多线程的方式主要有四种:继承 Thread 类、实现 Runnable 接口、实现 Callable 接口和使用线程池。每种方式各有优缺点,适用于不同的场景。继承 Thread 类最简单,实现 Runnable 接口更灵活,Callable 接口支持返回结果,线程池则便于管理和复用线程。实际应用中可根据需求选择合适的方式。此外,还介绍了多线程相关的常见面试问题及答案,涵盖线程概念、线程安全、线程池等知识点。
102 2