前文如上:
39.【面试宝典】面试宝典-redis过期k值回收策略,缓存淘汰策略
合集参考:面试宝典
分布式锁
1.背景
在日常开发中,单体应用都在同一个JVM环境中。一个JVM进程中当有多个线程的去竞争某一个资源的时候,我们通常会用一把锁来保证只有一个线程获取到资源。如:synchronize关键字或ReentrantLock锁等操作。
但是,随着业务的增长,单体应用存在性能瓶颈。随着微服务架构的成熟及普及,单体应用可能会拆分成多个微服务应用。
当多个应用服务同时对同一条数据做修改,JVM层面的锁就不适用了。分布式高并发场景下,如何要确保数据的正确性,如何保证只有一个应用能够修改成功?这里就诞生了分布式场景下的锁,即分布式锁。
2.分布式锁应该具备哪些条件
- 互斥性:在分布式系统环境下,一个方法在同一时间只能被一个机器的一个线程执行;
- 高可用、高性能的获取锁与释放锁;
- 具备可重入特性;
- 具备锁失效机制、防止死锁;
- 具备非阻塞锁特性,即没有获取到锁直接返回获取锁失败;
3.实现方案
分布式锁三种实现方式:
- 基于数据库实现分布式锁;
- 基于缓存(Redis等)实现分布式锁;
- 基于Zookeeper实现分布式锁。
三种方案的比较
- 从理解的难易程度(从低到高):数据库 > 缓存 > Zookeeper
- 从实现的复杂性角度(从低到高):Zookeeper >= 缓存 > 数据库
- 从性能角度(从高到低):缓存 > Zookeeper >= 数据库
- 从可靠性角度(从高到低):Zookeeper > 缓存 > 数据库
今天先复习基于redis的实现方式实现分布式锁
4.基于redis的实现方式
4.1 原理
我们加锁就一行代码:jedis.set(String key, String value, String nxxx, String expx, int time),这个set()方法一共有五个形参:
第一个为key,我们使用key来当锁,因为key是唯一的。
第二个为value,我们传的是requestId,很多童鞋可能不明白,有key作为锁不就够了吗,为什么还要用到value?原因就是我们在上面讲到可靠性时,分布式锁要满足第四个条件解铃还须系铃人,通过给value赋值为requestId,我们就知道这把锁是哪个请求加的了,在解锁的时候就可以有依据。
requestId可以使用UUID.randomUUID().toString()方法生成。
第三个为nxxx,这个参数我们填的是NX,意思是SET IF NOT EXIST,即当key不存在时,我们进行set操作;若key已经存在,则不做任何操作;
第四个为expx,这个参数我们传的是PX,意思是我们要给这个key加一个过期的设置,具体时间由第五个参数决定。
第五个为time,与第四个参数相呼应,代表key的过期时间。
总的来说,执行上面的set()方法就只会导致两种结果:1. 当前没有锁(key不存在),那么就进行加锁操作,并对锁设置个有效期,同时value表示加锁的客户端。2. 已有锁存在,不做任何操作。
我们的加锁代码满足我们可靠性里描述的三个条件。
- 首先,set()加入了NX参数,可以保证如果已有key存在,则函数不会调用成功,也就是只有一个客户端能持有锁,满足互斥性。
- 其次,由于我们对锁设置了过期时间,即使锁的持有者后续发生崩溃而没有解锁,锁也会因为到了过期时间而自动解锁(即key被删除),不会发生死锁。
- 最后,因为我们将value赋值为requestId,代表加锁的客户端请求标识,那么在客户端在解锁的时候就可以进行校验是否是同一个客户端。由于我们只考虑Redis单机部署的场景,所以容错性我们暂不考虑。
错误实例:使用jedis.setnx()和jedis.expire()组合实现加锁
public static void wrongGetLock1(Jedis jedis, String lockKey, String requestId, int expireTime) { Long result = jedis.setnx(lockKey, requestId); if (result == 1) { // 若在这里程序突然崩溃,则无法设置过期时间,将发生死锁 jedis.expire(lockKey, expireTime); } }
setnx()方法作用就是SET IF NOT EXIST,expire()方法就是给锁加一个过期时间。乍一看好像和前面的set()方法结果一样,然而由于这是两条Redis命令,不具有原子性,如果程序在执行完setnx()之后突然崩溃,导致锁没有设置过期时间。那么将会发生死锁。网上之所以有人这样实现,是因为低版本的jedis并不支持多参数的set()方法。
解锁: 首先获取锁对应的value值,检查是否与requestId相等,如果相等则删除锁(解锁)
4.2 实现
方式1:
使用Lua脚本来保证原子性(包含setnx和expire两条指令),lua脚本如下:
String lua_scripts = "if redis.call('setnx',KEYS[1],ARGV[1]) == 1 then" + " redis.call('expire',KEYS[1],ARGV[2]) return 1 else return 0 end"; Object result = jedis.eval(lua_scripts, Collections.singletonList(key_resource_id), Collections.singletonList(values)); //判断是否成功 return result.equals(1L);
方式2
redission实现分布式锁
redisson是一个企业级的开源Redis Client,也提供了分布式锁的支持,如果自己写代码来通过redis设置一个值,是通过下面这个命令设置的。SET anyLock unique_value NX PX 30000
具体含义见下图:
这里设置的超时时间是30s,假如我超过30s都还没有完成业务逻辑的情况下,key会过期,其他线程有可能会获取到锁。
这样一来的话,第一个线程还没执行完业务逻辑,第二个线程进来了也会出现线程安全问题。所以我们还需要额外的去维护这个过期时间,太麻烦了~
而使用redission,只需要通过他的api中的lock和unlock即可完成分布式锁,他帮我们考虑了很多细节:
redisson所有指令都通过lua脚本执行,redis支持lua脚本原子性执行 redisson设置一个key的默认过期时间为30s,如果某个客户端持有一个锁超过了30s怎么办? redisson中有一个watchdog看门狗的概念,翻译过来就是看门狗,它会在你获取锁之后,每隔10秒帮你把key的超时时间设为30s 这样的话,就算一直持有锁也不会出现key过期了,其他线程获取到锁的问题了。
redisson的"看门狗"逻辑保证了没有死锁发生。 注意:如果机器宕机了,看门狗也就没了。此时就不会延长key的过期时间,到了30s之后就会自动过期了,其他线程可以获取到锁)
伪代码如下:
redission支持多种连接模式 //单机 RedissonClient redisson = Redisson.create(); Config config = new Config(); config.useSingleServer().setAddress("myredisserver:6379"); RedissonClient redisson = Redisson.create(config); //主从 Config config = new Config(); config.useMasterSlaveServers() .setMasterAddress("127.0.0.1:6379") .addSlaveAddress("127.0.0.1:6389", "127.0.0.1:6332", "127.0.0.1:6419") .addSlaveAddress("127.0.0.1:6399"); RedissonClient redisson = Redisson.create(config); //哨兵 Config config = new Config(); config.useSentinelServers() .setMasterName("mymaster") .addSentinelAddress("127.0.0.1:26389", "127.0.0.1:26379") .addSentinelAddress("127.0.0.1:26319"); RedissonClient redisson = Redisson.create(config); //集群 Config config = new Config(); config.useClusterServers() .setScanInterval(2000) // cluster state scan interval in milliseconds .addNodeAddress("127.0.0.1:7000", "127.0.0.1:7001") .addNodeAddress("127.0.0.1:7002"); RedissonClient redisson = Redisson.create(config); 下面直接贴代码,这里使用的是单机模式,切换自己改一下连接模式就行: 1.导入依赖: <!-- org.redisson/redisson 分布式专用--> <dependency> <groupId>org.redisson</groupId> <artifactId>redisson</artifactId> <version>3.16.0</version> </dependency> <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-data-redis</artifactId> <version>2.5.3</version> </dependency> 2.编写配置类: @SpringBootApplication public class RedisLockApplication { public static void main(String[] args) { SpringApplication.run(RedisLockApplication.class, args); } @Bean public Redisson redisson(){ // 单机模式 Config config = new Config(); config.useSingleServer().setAddress("redis://127.0.0.1:6379").setDatabase(0); return (Redisson) Redisson.create(config); } } 3.上锁 RLock lock = redisson.getLock("anyLock"); try { //1. 具有Watch Dog 自动延期机制 默认续30s 每隔30/3=10 秒续到30s //lock.lock(); // 2. 支持过期解锁功能, 无需调用unlock方法手动解锁,没有Watch Dog ,10s后自动释放 //lock.lock(10, TimeUnit.SECONDS); // 3. 尝试拿锁10s后停止重试,返回false 具有Watch Dog 自动延期机制 默认续30s //有版本区分3.16以后有三个参数,第二个参数为-1 //lock.tryLock(10,-1, TimeUnit.SECONDS); ;即不设置过期时间,自动续期 //boolean res1 = lock.tryLock(10, TimeUnit.SECONDS); // 4.尝试加锁,最多等待10秒,上锁以后100秒自动解锁,尝试拿锁10s后停止重试,返回false //没有Watch Dog ,100s后过期自动释放 boolean res2 = lock.tryLock(10, 100, TimeUnit.SECONDS); if (res) { // 成功 // do your business } } catch (InterruptedException e) { e.printStackTrace(); } finally { lock.unlock(); }
4.3 避免死锁
设置键过期时间,超过这个时间即给key删除掉。 这样的话,就算当前服务获取到锁后宕机了,这个key也会在一定时间后被删除,其他服务照样可以继续获取锁。 给serverLock键设置一个10秒的过期时间,10秒后会自动删除该键。
4.4 锁续期(锁过期处理)
接着死锁的逻辑,为了避免死锁我们设置了锁的过期时间比如10s, 但是万一抢到锁的线程10s内没执行完怎么办?锁快过期我们如何给锁的时间续租呢? 虽然可以通过增加删除key时间来处理这个问题,但是并没有从根本上解决。假设设个100s,绝大多数都是1s后就会释放锁,但是由于服务宕机,则会导致100s内其他服务都无法获取到锁,这也是灾难性的。
我们可以这样做,在创建锁的时候,创建一个守护线程,在锁将要过期的时候,如果服务还没有处理完业务,那么将这个锁再续一段时间。比如设置key在10s后过期,开启一个守护线程,在第5s的时候检测服务是否处理完,如果没有,则将这个key再续10s后过期。
在Redisson(Redis SDK客户端)中,就已经帮我们实现了这个功能,这个自动续时的我们称其为”看门狗”。
公众号,感谢关注