调度子系统1_调度子系统初始化

本文涉及的产品
网络型负载均衡 NLB,每月750个小时 15LCU
传统型负载均衡 CLB,每月750个小时 15LCU
应用型负载均衡 ALB,每月750个小时 15LCU
简介:
unsigned int sysctl_sched_rt_period = 1000000;
int sysctl_sched_rt_runtime = 950000;

//	参考:
//		SMP负载均衡
//		http://soft.chinabyte.com/os/22/12359522.shtml
//		linux组调度浅析
//		http://hi.baidu.com/_kouu/item/0fe32610e493314be75e06d1
//		进程调度和组调度 
//		http://blog.chinaunix.net/uid-27052262-id-3239263.html
//		CF调度器
//		http://blog.csdn.net/wudongxu/article/details/8574749
//		FIFO调度器
//		http://lwn.net/Articles/296419/

//	调度初始化
//	函数任务:
//		1.初始化rootdomain
//			rootdomain指示rq可运行的cpu集合
//		2.初始化real-time task对cpu的占有率
//			sysctl_sched_rt_period代表rt进程的调度周期
//			sysctl_sched_rt_runtime代表rt进程在调度周期中可运行的时间
//		3.初始化per-cpu rq
//			3.1 初始化公平调度队列,实时调度队列
//			3.2 初始化cpu负载记录数组
//			3.3 初始化cpu使用的tick hrtimer
//		4.初始化current(init_task)为idle task
//			4.1 设置current由公平调度管理
1.1 void __init sched_init(void)
{
	int i, j;

#ifdef CONFIG_SMP
	//初始化默认的调度域
	init_defrootdomain();
#endif

	//rt_bandwidth表示实时进程对cpu的占有率
	init_rt_bandwidth(&def_rt_bandwidth,
			global_rt_period(), global_rt_runtime());

	//初始化per-cpu rq
	for_each_possible_cpu(i) {
		struct rq *rq;
		//per-cpu 运行队列
		rq = cpu_rq(i);
		raw_spin_lock_init(&rq->lock);
		rq->nr_running = 0;
		rq->calc_load_active = 0;
		rq->calc_load_update = jiffies + LOAD_FREQ;
		//初始化公平调度策略、实时调度策略队列
		init_cfs_rq(&rq->cfs, rq);
		init_rt_rq(&rq->rt, rq);
		//调度队列中,实时进程对cpu的占有率
		rq->rt.rt_runtime = def_rt_bandwidth.rt_runtime;
		//分5个等级记录cpu的负载情况
		for (j = 0; j < CPU_LOAD_IDX_MAX; j++)
			rq->cpu_load[j] = 0;
#ifdef CONFIG_SMP
		rq->sd = NULL;
		rq->rd = NULL;
		rq->post_schedule = 0;
		rq->active_balance = 0;
		rq->next_balance = jiffies;
		rq->push_cpu = 0;
		//rq运行的cpu
		rq->cpu = i;
		rq->online = 0;
		rq->migration_thread = NULL;
		rq->idle_stamp = 0;
		rq->avg_idle = 2*sysctl_sched_migration_cost;
		INIT_LIST_HEAD(&rq->migration_queue);
		rq_attach_root(rq, &def_root_domain);
#endif
		//初始化rq使用的hrtimer
		init_rq_hrtick(rq);
		atomic_set(&rq->nr_iowait, 0);
	}

	set_load_weight(&init_task);


	//load balancing软中断
#ifdef CONFIG_SMP
	open_softirq(SCHED_SOFTIRQ, run_rebalance_domains);
#endif

	atomic_inc(&init_mm.mm_count);
	//通知底层体系结构不需要切换虚拟地址空间的用户空间部分
	enter_lazy_tlb(&init_mm, current);

	//将当前进程,即init_task更新为idle thread
	init_idle(current, smp_processor_id());
	//下次进行load balancing的时间戳
	calc_load_update = jiffies + LOAD_FREQ;
	//当前进程关联的调度累
	current->sched_class = &fair_sched_class;

	perf_event_init();
	//标识调度器开始运行
	scheduler_running = 1;
}
//	rq结构分析
//	参考 http://blog.csdn.net/bullbat/article/details/7160246
1.2 struct rq {
	
	raw_spinlock_t lock;
	//就绪队列中进程数
	unsigned long nr_running;
	#define CPU_LOAD_IDX_MAX 5
	//分5个等级记录就绪队列的负载情况
	//在系统初始化的时候sched_init把rq的cpu_load array初始化为0,之后通过函数update_cpu_load
	//公式如下:
    //	cpu_load[0]等于rq中load.weight的值
    //	cpu_load[1]=(cpu_load[1]*(2-1)+cpu_load[0])/2 
    //	cpu_load[2]=(cpu_load[2]*(4-1)+cpu_load[0])/4 
    //	cpu_load[3]=(cpu_load[3]*(8-1)+cpu_load[0])/8 
    //	cpu_load[4]=(cpu_load[4]*(16-1)+cpu_load[0]/16 
    //通过this_cpu_load返回的cpu load值是cpu_load[0]
    //进行cpu blance或migration时,通过调用source_load target_load取得对该处理器cpu_load index值。
	unsigned long cpu_load[CPU_LOAD_IDX_MAX];
	//本schedule entity的load->weight的总和
	struct load_weight load;
	//scheduler tick中调用update_cpu_load时,这个值就增加一,可以用来反馈目前cpu load更新的次数。
	unsigned long nr_load_updates;
	//统计处理器context switch次数
	//	schedule进行累加,并可以通过函数nr_context_switches统计目前所有处理器总共的context switch次数
	//	或是可以查看/proc/stat中的ctxt获取目前整个系统触发context switch的次数。
	u64 nr_switches;
	//公平调度队列
	struct cfs_rq cfs;
	//实时调度队列
	struct rt_rq rt;

//支持group cfs tasks的机制
#ifdef CONFIG_FAIR_GROUP_SCHED
	//1.fair group scheduling, 
    //	将cfs rq中若干task组织成若干task group,即子cfs_rq,属于这group的task所使用到的处理器时间就会以个group总共所分的的时间为上限。 
    //2.基于cgroup的fair group scheduling 架构
    //	2.1 可以创造出有阶层性的task组织,根据不同task的功能群组化。 
    //	2.2 在配置给该群组对应的处理器资源,让属于该群组下的task可以通过rq机制使用属于该群组下的资源。 
    //3.加入、退出、遍历leaf_cfs_rq_list
    // 	3.1 加入:list_add_leaf_cfs_rq把一个group cfs rq加入。
    //	3.2 退出:list_del_leaf_cfs_rq把一个group cfs rq退出。
    //	3.3 遍历:for_each_leaf_cfs_rq遍历rq上得所有leaf cfs_rq 
	struct list_head leaf_cfs_rq_list;
#endif

#ifdef CONFIG_RT_GROUP_SCHED
	//类似leaf_cfs_rq_list,只是这里是针对属于real-time的task,对应的操作函数有list_add_leaf_rt_rq,
	//list_del_leaf_rt_rq, for_each_leaf_rt_rq.  
	struct list_head leaf_rt_rq_list;
#endif
	//统计目前rq中有多少task属于TASK_UNINTERRUPTIBLE的状态.
	unsigned long nr_uninterruptible;
	//指向目前处理器正在执行的task; 没有可运行task时,运行idle task.
	struct task_struct *curr, *idle;
	//基于处理器的jiffies值,用以记录下次进行处理器balancing的时间点.
	unsigned long next_balance;
	//用以存储context-switch发生时,前一个task的memory management结构.
	struct mm_struct *prev_mm;
	//记录目前rq的clock值
	//	该值等于调用sched_clock_cpu(cpu_of(rq))的返回值,在scheduler_tick中通过函数update_rq_clock更新.
	u64 clock;
	//记录目前rq中处于等待i/o状态的task数。
	//	例如当driver接受来自task的调用,但处于等待i/o阶段时,为了充分利用处理器的执行资源,
	//	这时就可以在driver中调用函数io_schedule,此时就会把目前rq中的nr_iowait加一,
    //	并设定目前task的io_wait为1, 然后触发scheduling 让其他task有机会可以得到处理器执行时间。
	atomic_t nr_iowait;

#ifdef CONFIG_SMP
	//root domain是基于多核心架构下的机制, 
    //其中包括了: 
    //	cpu mask(包括span,online,rt overload), 
    //	reference count 
    //	cpupri 
    //1.当root domain被rq引用时,refcount加一,反之就减一。
    //2.cpu mask span表示rq可运行的cpu mask、 noline为已经被rq安排了进程的cpu
    //3.当rq中real-time的task执行完毕时,会调用函数pull_rt_task从该rq rto_mask中标识的cpu上,
    //	查找是否有处理器有大于一个以上的real-time task,若有就会迁移到本cpu执行。
    //4.cpupri不同于task的优先级,cpupri本身有102个优先级:
    //	-1 invalid, 
    //	 0 idle
    //	 1 normal
    //	2-101对应real-time priority 0-99 
    //参考convert_prio, task priority如果是140就会对应到cpu idle,如果是大于等于100就会对应到cpu normal, 
    //	若是task priority介于0-99之间,就会对应到cpu real-time priority 101-2 之间。  
    //在实际的操作上, 可以调用cpupri_find传入一个real-time task结构,此时就会依据cpupri中pri_to_cpu选择
    //	一个目前执行real-time task且该task的优先级比目前要插入的task更低的处理器, 并通过cpu mask(lowest_mask)
    //	返回目前可以选择的处理器mask。 
    //参考 kernel/sched_cpupri.c. 
    //在初始化的过程中,通过sched_init调用init_defrootdomain对root domain与cpu priority机制进行初始化。
	struct root_domain *rd;
	//schedule domain是基于多核心架构下的机制。
    //每个处理器都会有一个默认的scheduling domain.
    //	1.scheduling domain的层次结构:
    //		通过parent找到上一层的domain。
    //		通过child找到下一层的domain(NULL表示结尾)。
    //	2.scheduling domain覆盖的处理器:
    //		通过span掩码,表示这个domain所覆盖的处理器范围。
    //	3.scheduling domain的根:
    //		base domain涵盖系统中所有处理器。
    //	4.scheduling doma的cpu group:
    //		4.1 schedule domain都会包括一个或一个以上的cpu groups(结构为struct sched_group),并通过next指针把cpu groups串联在一起(成为一个单向的circular linked list)。 
    //		4.2 cpu group都通过cpumask来定义其所涵盖的处理器,并且cpu group所包括的处理器范围必需涵盖在所属的schedule domain处理器范围中。
    //		4.3 当scheduling domain在balancing时,会以其下的cpu groups为单位,通过cpu_power(该group所涵盖的处理器的tasks loading 
    //			总和)来比较不同的cpu groups的负荷来进行tasks的移动,达到balancing的目的。 
    //	5.loadbalance时机:
    //		5.1 在sched_init中, 通过open_softirq注册SCHED_SOFTIRQ软中断\
    //		5.2 在scheduler_tick中,通过trigger_load_balance确认目前的jiffies值是否大于要触发load balance的时间戳,并通过raise_softirq触发SCHED_SOFTIRQ。
    //		5.3 在load balance软中断中,通过run_rebalance_domains进行scheduling domain load balance. 
    //	有关scheduling domain进一步的內容,参考 
    //	Documentation/scheduler/sched-domains.txt.   
	struct sched_domain *sd;
	//为1表示目前cpu rq中执行的为idle task
	//为0表示执行非idle task 
	unsigned char idle_at_tick;

	int post_schedule;

	//为1表示这个rq正在运行fair scheduling的load balance,此时会调用stop_one_cpu_nowait暂停该cpu的进程
    //然后通过调用active_load_balance_cpu_stop把tasks从最忙碌的处理器移到idle的处理器上执行
	int active_balance;
	//用以存储目前进入idle状态并且进行load balance流程的处理器id。
	//整个流程为
	//	进程调用schedule时, 若该处理器rq的nr_running为0(也就是目前没有正在执行的task),就会调用idle_balance并
	//	触发后续load balance流程
	int push_cpu;
	//用以存储目前运作这个rq的处理器id
	int cpu;
	int online;
	//如果rq中目前有task正在执行,这个值会等于目前该rq的load weight除以目前rq中task数目的均值
	unsigned long avg_load_per_task;


	struct task_struct *migration_thread;
	struct list_head migration_queue;
	//统计目前real-time task执行时间的均值, 反应目前系统中real-time task平均被分配到的执行时间值
	u64 rt_avg;
	u64 age_stamp;
	//表示cpu进入idle状态的时间
	u64 idle_stamp;
	u64 avg_idle;
#endif

	//用以记录下一次计算cpu load的时间,初始值为当前的jiffies加上五秒与1次的scheduling tick的间隔
	unsigned long calc_load_update;
	long calc_load_active;

#ifdef CONFIG_SCHED_HRTICK
#ifdef CONFIG_SMP

	int hrtick_csd_pending;
	struct call_single_data hrtick_csd;
#endif
	struct hrtimer hrtick_timer;
#endif

};

相关实践学习
SLB负载均衡实践
本场景通过使用阿里云负载均衡 SLB 以及对负载均衡 SLB 后端服务器 ECS 的权重进行修改,快速解决服务器响应速度慢的问题
负载均衡入门与产品使用指南
负载均衡(Server Load Balancer)是对多台云服务器进行流量分发的负载均衡服务,可以通过流量分发扩展应用系统对外的服务能力,通过消除单点故障提升应用系统的可用性。 本课程主要介绍负载均衡的相关技术以及阿里云负载均衡产品的使用方法。
目录
相关文章
|
消息中间件 监控 算法
深入理解Linux进程管理与优化:原理、调度和资源控制详解
深入理解Linux进程管理与优化:原理、调度和资源控制详解
288 0
|
7月前
|
算法 调度
【操作系统】处理机调度的基本概念和三个层次、进程调度的时机和方式、调度器、闲逛线程
【操作系统】处理机调度的基本概念和三个层次、进程调度的时机和方式、调度器、闲逛线程
608 3
|
存储 监控 算法
【操作系统】—处理机调度的概念以及层次
【操作系统】—处理机调度的概念以及层次
【操作系统】—处理机调度的概念以及层次
|
Linux Windows 内存技术
PCIe初始化枚举和资源分配流程分析
本文主要是对PCIe的初始化枚举、资源分配流程进行分析,代码对应的是alikernel-4.19,平台是arm64 ## 1. PCIe architecture ### 1.1 pcie的拓扑结构 在分析PCIe初始化枚举流程之前,先描述下pcie的拓扑结构。 如下图所示: ![11.png](https://ata2-img.oss-cn-zhangjiakou.aliyuncs
7569 1
PCIe初始化枚举和资源分配流程分析
|
物联网 开发者
独立看门狗应用实例|学习笔记
快速学习独立看门狗应用实例
独立看门狗应用实例|学习笔记
|
存储 监控 算法
2.2.1操作系统(处理机调度的概念 层次 调度时机 切换与过程 调度方式)
1.处理机调度 概念、层次 调度的基本概念 调度的三个层次 1.高级调度 2.中级调度 3.低级调度 4.三层调度的联系、对比 2.进程调度的时机 切换与过程 调度方式 进程调度的时机 进程调度的方式 进程的切换与过程
2.2.1操作系统(处理机调度的概念 层次 调度时机 切换与过程 调度方式)
|
算法 Linux 调度
Linux进程核心调度器之主调度器schedule--Linux进程的管理与调度(十九)【转】
转自:http://blog.csdn.net/gatieme/article/details/51872594 日期 内核版本 架构 作者 GitHub CSDN 2016-06-30 Linux-4.
1315 0