1 引言
使用最广泛的同步技术就是加锁
。对于锁概念,我相信大家已经不陌生了,不论是实时嵌入式系统还是服务器上的操作系统,都使用了这个概念。所以对于锁的理解就不再赘述了。
自旋锁是设计用来在多核系统中工作的一种特殊锁。如果内核控制路径发现自旋锁空闲,则申请加锁然后执行。相反,如果发现锁已经被其它CPU上的内核控制路径占用,它就会一直自旋
,就是在循环查看锁是否已经释放,直到该锁被释放。
自旋锁的自旋过程就是一个忙等待的过程。也就是说,正在等待的内核控制路径正在浪费时间,因为什么也不干。但是,大部分的内核资源加锁的时间可能仅为毫秒的几分之一,因此,释放CPU使用权再获取可能比一直等待更消耗时间。所以,自旋锁使用的场合就是,内核资源的占用时间一般比较短,且是多核系统的时候。
2 自旋锁结构实现
Linux内核系统中,自旋锁spinlock_t
的实现主要使用了raw_spinlock_t
结构,这个结构的实现,参考下面的代码:
typedef struct raw_spinlock { arch_spinlock_t raw_lock; #ifdef CONFIG_GENERIC_LOCKBREAK unsigned int break_lock; #endif ... } raw_spinlock_t; typedef struct spinlock { union { struct raw_spinlock rlock; ... }; } spinlock_t;
上面的代码中,核心的数据成员是raw_lock
和break_lock
。对于raw_lock
来说,其类型为arch_spinlock_t
,从名称上也能看出,这个结构是跟体系结构相关的。
- raw_lock
表示自旋锁的状态,依赖于具体的架构实现。 - break_lock
标志着进程正在忙等待锁(仅当内核同时支持SMP和内核抢占时才会出现)。
接下来,我们分析加锁的流程。
3 spin_lock()函数
本章我们直接看源代码,用函数出现的顺序表示函数调用的顺序。首先,看加锁的函数为:
static __always_inline void spin_lock(spinlock_t *lock) { raw_spin_lock(&lock->rlock); }
raw_spin_lock
函数的代码如下:
#define raw_spin_lock(lock) _raw_spin_lock(lock)
_raw_spin_lock
函数分为2个版本:SMP版本和UP版本。
3.1 UP版本实现
_raw_spin_lock
函数:
#define _raw_spin_lock(lock) __LOCK(lock)
__LOCK
函数代码如下:
#define __LOCK(lock) \ do { preempt_disable(); ___LOCK(lock); } while (0)
可以看出,首先禁止内核抢占。然后调用
#define ___LOCK(lock) \ do { __acquire(lock); (void)(lock); } while (0)
从上面的代码可以看出,单核系统没有处于debug状态时,没有真正的锁在运行。因此,就是禁止了内核抢占。至于void
是避免编译器对未使用的锁变量发出警告。__acquire(lock)
就是给检查器(CHECKER)添加适当的注释。真正的定义就是# define __acquire(x) (void)0
。
3.2 SMP版本实现
_raw_spin_lock
函数:
static inline void __raw_spin_lock(raw_spinlock_t *lock) { // 禁止内核抢占 preempt_disable(); // debug用 spin_acquire(&lock->dep_map, 0, 0, _RET_IP_); // 真正申请锁的地方 LOCK_CONTENDED(lock, do_raw_spin_trylock, do_raw_spin_lock); }
LOCK_CONTENDED
是一个通用的加锁流程。do_raw_spin_trylock
和do_raw_spin_lock
的实现依赖于具体的体系结构,以x86
为例,do_raw_spin_trylock
最终调用的是:
static inline int do_raw_spin_trylock(raw_spinlock_t *lock) { return arch_spin_trylock(&(lock)->raw_lock); }
arch_spin_trylock
函数的实现依赖于具体的体系架构,以X86为例,代码如下:
typedef struct arch_spinlock { union { __ticketpair_t head_tail; struct __raw_tickets { __ticket_t head, tail; // 注意,x86使用的是小端模式,存在高地址空间的是tail } tickets; }; } arch_spinlock_t; static __always_inline int arch_spin_trylock(arch_spinlock_t *lock) { arch_spinlock_t old, new; // 获取旧的ticket信息 old.tickets = READ_ONCE(lock->tickets); // head和tail不一致,说明锁正在被占用,加锁不成功 if (!__tickets_equal(old.tickets.head, old.tickets.tail)) return 0; // 将tail + 1 new.head_tail = old.head_tail + (TICKET_LOCK_INC << TICKET_SHIFT); new.head_tail &= ~TICKET_SLOWPATH_FLAG; /* cmpxchg是一个完整的内存屏障 */ return cmpxchg(&lock->head_tail, old.head_tail, new.head_tail) == old.head_tail; }
从上述代码中可知,arch_spin_trylock
的核心功能,就是判断自旋锁是否被占用,如果没被占用,尝试原子性地更新lock中的head_tail
的值,将tail+1,返回是否加锁成功。
不考虑CONFIG_DEBUG_SPINLOCK宏的话,do_raw_spin_lock
的源代码如下:
static inline void do_raw_spin_lock(raw_spinlock_t *lock) __acquires(lock) { __acquire(lock); arch_spin_lock(&lock->raw_lock); }
arch_spin_lock
函数的源代码:
static __always_inline void arch_spin_lock(arch_spinlock_t *lock) { register struct __raw_tickets inc = { .tail = TICKET_LOCK_INC }; // 原子性地把ticket中的tail+1,返回的inc是+1之前的原始值 inc = xadd(&lock->tickets, inc); if (likely(inc.head == inc.tail)) goto out; for (;;) { unsigned count = SPIN_THRESHOLD; do { // 读取新的head值 inc.head = READ_ONCE(lock->tickets.head); if (__tickets_equal(inc.head, inc.tail)) goto clear_slowpath; cpu_relax(); } while (--count); __ticket_lock_spinning(lock, inc.tail); }
// 循环直到head和tail相等
clear_slowpath: __ticket_check_and_clear_slowpath(lock, inc.head); out: barrier(); /* make sure nothing creeps before the lock is taken */ }
__ticket_check_and_clear_slowpath
函数执行的操作是把tail加1,并把之前的值记录下来,完成加锁操作。
static inline void __ticket_check_and_clear_slowpath(arch_spinlock_t *lock, __ticket_t head) { if (head & TICKET_SLOWPATH_FLAG) { arch_spinlock_t old, new; old.tickets.head = head; new.tickets.head = head & ~TICKET_SLOWPATH_FLAG; old.tickets.tail = new.tickets.head + TICKET_LOCK_INC; new.tickets.tail = old.tickets.tail; /* try to clear slowpath flag when there are no contenders */ cmpxchg(&lock->head_tail, old.head_tail, new.head_tail); } }
至此,就完成了申请锁的操作。接下来我们再来研究一下,解锁流程。
4. spin_unlock函数
对于SMP架构来说,spin_unlock
最终调用的是__raw_spin_unlock
,其源代码如下:
static inline void __raw_spin_unlock(raw_spinlock_t *lock) { spin_release(&lock->dep_map, 1, _RET_IP_); do_raw_spin_unlock(lock); // 完成主要的解锁工作 preempt_enable(); // 启动抢占 } static inline void do_raw_spin_unlock(raw_spinlock_t *lock) __releases(lock) { arch_spin_unlock(&lock->raw_lock); __release(lock); }
arch_spin_unlock
函数的代码如下:
static __always_inline void arch_spin_unlock(arch_spinlock_t *lock) { if (TICKET_SLOWPATH_FLAG && static_key_false(¶virt_ticketlocks_enabled)) { __ticket_t head; BUILD_BUG_ON(((__ticket_t)NR_CPUS) != NR_CPUS); // 主要内容:将head+1;所以现在head>tail表示锁又空闲了。 head = xadd(&lock->tickets.head, TICKET_LOCK_INC); if (unlikely(head & TICKET_SLOWPATH_FLAG)) { head &= ~TICKET_SLOWPATH_FLAG; __ticket_unlock_kick(lock, (head + TICKET_LOCK_INC)); } } else __add(&lock->tickets.head, TICKET_LOCK_INC, UNLOCK_LOCK_PREFIX); }
所以,解锁的过程就是将head和tail不相等,且重新使能内核抢占的过程。