死锁形成的示例
RDS/TDDL、OTS数据库引擎锁的区别
死锁的解决方案
报错信息:Caused by: com.mysql.jdbc.exceptions.jdbc4.MySQLTransactionRollbackException: Deadlock found when trying to get lock; try restarting transaction
在实时计算 Flink中,下游数据库使用Mysql等关系数据库(对应的connector为TDDL和RDS),当实时计算频繁写某个表或者资源时,存在死锁风险。
死锁形成的示例
假设完成一次insert需要依次抢占(A, B) 2个锁。A是一个范围锁,有2个事务(T1,T2),表的schema为(id(自增主键), nid(唯一键))。T1包含2条insert(null, 2),(null, 1), T2包含1条insert(null, 2)。
t时刻, T1第一条insert插入,此时T1持有(A, B)2个锁。
t+1时刻T2开始插入,需要等待锁A来锁住(-inf, 2], 此时A被T1拥有,且锁住了(-inf, 2],区间存在包含关系,所以T2依赖T1释放A。
t+2时刻T1第二条insert执行,需要A锁住(-inf, 1], 该区间属于(-inf, 2],所以需要排队等T2释放锁,所以T1依赖T2释放A。
当T1和T2相互依赖且相互等待时死锁形成。
RDS/TDDL、OTS数据库引擎锁的区别
RDS、TDDL:——InnoDB的行锁是针对索引加的锁,不是针对单条记录加的锁,所以虽然是访问不同行的记录,但是如果是使用相同的索引键,是会出现锁冲突的,造成了一整个区域的数据都无法更新。
OTS:——单行锁,不影响其他数据更新。
死锁的解决方案
高QPS/TPS或高并发写入情况场景,建议使用OTS作为结果表,可以解决死锁的问题。一般不建议使用TDDL或者RDS作为Flink Job的结果表。
如果必须要使用Mysql等关系数据库作为sink节点,有以下建议:
确保没有其他读写业务方的干扰
如果Job的数据量不大可以尝试单并发写入。但是在高QPS/TPS、高并发情况下,写入性能会降低。
尽可能不使用UniqueKey, 带UniqueKey(唯一主键)表的写入可能会导致死锁。如果业务要求表必须包含UniqueKey,请按照字段区分能力从大到小排列来定义UniqueKey,可大幅降低死锁出现概率。如一个md5值的区分能力大于day_time(20171010)。
根据业务特点做分库分表,尽可能避免单表写入,实施细节请联系对应的DBA。
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。