以19世纪银行为例。某个城市有若干用户(Producer),到银行去存取钱(User Operation),银行有若干个柜员(Consumer)。因为19世纪还没有电脑可以实时同步,因此每个柜员都有一个小账本能够记录对应信息,每天晚上把钱和账本拿到公司去对账。
在分布式世界里,我们可以把柜员认为是固定内存和计算能力单机。用户是来自各个数据源的请求,Bank大厅是处理用户存取数据的日志库(Logstore)。
- Log/LogGroup:用户发出的存取款等操作。
- 用户(User):Log/LogGroup生产者。
- 柜员(Clerk):银行处理用户请求的员工。
- 银行大厅(Logstore):用户产生的操作请求先进入银行大厅,再交给柜员处理。
- 分区(Shard):银行大厅用以安排用户请求的组织方式。
问题1:保序(Ordering)
银行有2个柜员(A,B),张三进了银行,在柜台A上存了1000元,A把张三1000元存在自己的账本上。张三到了下午觉得手头紧到B柜台取钱,B柜员一看账本,发现不对,张三并没有在这里存钱。
从这个例子可以看到,存取款是一个严格有序的操作,需要同一个柜员(处理器)来处理同一个用户的操作,这样才能保持状态一致性。
实现保序的方法很简单:排队,创建一个Shard,终端只有一个柜员A来处理。用户请求先进先出,一点问题都没有。但带来的问题是效率低下,假设有1000个用户来进行操作,即使有10个柜员也无济于事。
这种场景怎么办?
- 假设有10个柜员,我们可以创建10个Shard。
- 如何保证对于同一个账户的操作是有序的?可以根据一致性Hash方式将用户进行映射。例如我们开10个队伍(Shard),每个柜员处理一个Shard,把不同银行账号或用户姓名,映射到特定Shard中。在这种情况下张三 Hash(Zhang)= Z 永远落在一个特定Shard中(区间包含Z),处理端面对的永远是柜员A。
当然如果张姓用户比较多,也可以换其他策略。例如根据用户AccountID、ZipCode进行Hash,这样就可以使得每个Shard中操作请求更均匀。
问题2:不丢失(At-Least Once)
张三拿着存款在柜台A处理,柜员A处理到一半去接了个电话,等回来后以为业务已经办理好了,于是开始处理下一个用户的请求,张三的存款请求因此被丢失。
虽然机器不会人为犯错,在线时间和可靠性要比柜员高。但难免也会遇到当机、或因负载高导致的处理中断,因为这样的场景丢失用户的存款,这是万万不行的。
这种情况怎么办呢?
A可以在自己日记本上(非账本)记录一个项目:当前已处理到Shard哪个位置,只有当张三的这个存款请求被完全确认后,柜员A才能叫下一个。
带来问题是什么?可能会重复。比如A已经处理完张三请求(更新账本),准备在日记本上记录处理到哪个位置之时,突然被叫开了,当他回来后,发现张三请求没有记录下来,他会把张三请求再次处理一遍,这就会造成重复。
问题3:不重复(Exactly Once)
重复一定会带来问题吗?不一定。
在幂等情况下,重复虽然会有浪费,但对结果没有影响。什么叫幂等:重复消费不对结果产生影响的操作叫做幂等。例如用户有一个操作 “查询余额”,该操作是一个只读操作,重复做不影响结果。对于非只读操作,例如注销用户这类操作,可以连续做两次。
但现实生活中大部分操作不是幂等的,例如存款、取款等,重复进行计算会对结果带来致命的影响。解决的方式是什么呢?柜员(A)需要把账本完成 + 日记本标记Shard中处理完成作为一个事物合并操作,并记录下来(CheckPoint)。
如果A暂时离开或永久离开,其他柜员只要使用相同的规范:记录中已操作则处理下一个即可,如果没有则重复做,过程中需要保证原子性。
CheckPoint可以将Shard 中的元素位置(或时间)作为Key,放入一个可以持久化的对象中。代表当前元素已经被处理完成。
业务挑战
以上三个概念解释完成后,原理并不复杂。但在现实世界中,规模的变化与不确定性会使得以上三个问题便得更复杂。例如:
- 遇到发工资日子,用户数会大涨。
- 柜员(Clerk)毕竟不是机器人,他们需要休假,需要吃午饭。
- 银行经理为了整体服务体验,需要加快柜员,以什么作为判断标准?Shard中处理速度?
- 柜员在交接过程中,能否非常容易地传递账本与记录?