【大数据技术干货】阿里云伏羲(fuxi)调度器FuxiMaster功能简介(四) NodeLabel调度

本文涉及的产品
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
简介: 转载自xingbao各位好,这是介绍阿里云伏羲(fuxi)调度器系列文章的第四篇,今天主要介绍NoedLabel的调度策略 一、FuxiMaster简介 FuxiMaster和Yarn非常相似,定位于分布式系统中资源管理与分配的角色:一个典型的资源分配流程图如下所示: 作为调度器,目前FuxiM

免费开通大数据服务:https://www.aliyun.com/product/odps

转载自xingbao
各位好,这是介绍阿里云伏羲(fuxi)调度器系列文章的第四篇,今天主要介绍NoedLabel的调度策略

一、FuxiMaster简介

FuxiMaster和Yarn非常相似,定位于分布式系统中资源管理与分配的角色:一个典型的资源分配流程图如下所示: 




作为调度器,目前FuxiMaster支持的功能主要有:

1、 多租户管理

2、 调度模型及FIFO/FAIR调度策略

3、 针对在线服务保持资源强稳定

4、支持NodeLabel动态划分集群(本文)

5、支持多机房调度

6、支持基于优先级的交互式抢占

7、支持AllOrNothing调度

8、支持基于硬件ID化的调度

9、单Master目前支持2w台机器的规模

10、......


一、NodeLabel的定义

 
NodeLabel的定义是placement constraints: which resources are consumed;在使用上,是对集群内机器进行静态划分,比如将SSD机器于SATA机器分开供不同的类型的作业使用;又或者控制在线服务和离线作业在同一个集群内混跑,但是跑在不同机器上以消除互相影响。 总之,NodeLabel功能使得将异构的机器或者异构作业部署在同一个集群变的更加容易
 
那对于NodeLabel用户会存在什么样的需求呢?
 
1、用户会提出基于若干Label组合的请求,比如:用户作业必须只能跑在操作系统是Linux、磁盘类型是SSD、内核版本是2.0的机器上,这就需要资源调度器能够筛出符合所有标签组合的机器。
 
2、用户对label的请求不一定是严格等于,可能是“大于”、“小于”这样的语义。例如:用户的作业可以跑在内核版本大于等于2.0的机器上,所以内核版本是2.0、2.1、2.2的机器都是可以分配给用户作业的,即:资源调度器能够支持用户作业中的标签请求具有比较运算符的语义,如大于、小于、不等于等等。
 
3、用户会对label请求描述“态度”:有的用户作业必须跑在具有某些标签的机器上,如果资源调度器发现在这些机器上没有可用的资源,那么用户作业宁可排队等待,我们称这种“态度”为强制的。有的用户作业要求尽量跑在具有某些label的机器上,这些机器没有资源时,用户作业也希望资源调度器能够分配其他不符合标签请求的机器上,我们称这种“态度”是非强制性的。
 
4、自适应物理拓扑,满足在RACK\SWITCH\ENGINEROOM\CLUSTER拓扑下面挑选满足条件的label机器
 
5、支持机器支持label排他的语义: 当机器处于label排他状态时,本机器只能让label请求满足条件的作业跑上来; 反之,当机器处于非label排他状态时,本机器可以让label请求不满足的作业也能跑上来,这个主要是针对提高资源的利用率,尤其是在线离线混步的场景


二、NodeLabel调度的实现


1、Label的定义

机器标签用“主键、键值”的组合来描述。假设一台机器的标签为:内核(Kernal)版本是1.9、操作系统(OS)是linux、磁盘(Disk)类型是SATA,那么内核(Kernal)版本、操作系统(OS)、磁盘(Disk)类型就是主键、而1.9、linux、SATA就是每一个主键对应的键值。每一个主键可以对应多个键值,如:内核(Kernal)版本有1.9、2.0、2.1三个值,操作系统(OS)有linux、windows两个值。对于一台机器,每一个主键只能用对应一个键值,即机器的操作系统(OS)不可能即是linux又是windows,, 上述如下图所示:




2、对label的申请描述

申请标签资源时,会以“主键、运算符、键值”的组合方式向FuxiMaster申请资源,例如,申请“内核(Kernal)版本大于等于1.9、操作系统(OS)等于windows、磁盘(Disk)类型不等于SSD”的机器资源。这里内核(Kernal)版本、操作系统(OS)、磁盘(Disk)是“主键”,大于等于、等于、不等于是“运算符”,1.9、windows、SSD是键值。我们定义运算符可以有6种取值,分别是:等于、大于、大于等于、小于、小于等于、不等于, 如下图所示:



3、label的管理

为了下文叙述方便,我们将每一个键值用字母代替,如下图所示:


FuxiMaster在接收到机器的label后,会将每一个“主键”的“键值”提取出来,并串联起来作为这个机器的识别码,例如机器1的标签组合是“内核版本为A、操作系统类型是D、磁盘类型是F”,那么这台机器的标签识别码就是ADF。



获取了每台机器的识别码后,我们要建立两个表。第一个表是标签识别码-机器映射表:由于许多台机器可能拥有相同的标签识别码,所以我们需要知道对应每一种标签识别码,究竟对应的是哪些机器,如图所示:



另外一个表是键值-标签识别码映射表:我们需要知道对应每一个单独的键值,究竟有那些标签识别码是包含这个键值的,这在为作业管理器分配资源的时候会发挥作用,如图所示:




4、分配逻辑

通过分析请求中每个主键对应的标签,我们可以得到一组候选的label集合列表,如下图所示:




我们需要找出哪些label组合出现的次数等于请求中主键的个数,这个可以通过堆来实现,如下图所示:


5、物理拓扑

在不同的物理拓扑下,我们会分别建立上述的各种索引表:





6、Label的态度

Label的Attitude是来描述对于label的态度:

1、OPER_HARD_AFFINITY:必须要满足标签的机器,如果资源不满足就进入队列排队;

2、SOFT_HARD_AFFINITY: 尽量要满足标签的机器,如果这些机器未能满足,则也可在其他机器上分配

3、OPER_HARD_UNTI_AFFINITY: 必须不要满足条件的这些机器,如果资源不满足就进入队列排队

4、OPER_SOFT_UNTI_AFFINITY: 尽量不要满足条件的这些机器,其他机器未满足也可以在这些机器上分配


欢迎加入“数加·MaxCompute购买咨询”钉钉群(群号: 11782920)进行咨询,群二维码如下:

96e17df884ab556dc002c912fa736ef6558cbb51 
相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
目录
相关文章
|
4天前
|
机器学习/深度学习 运维 分布式计算
大数据技术专业就业前景
大数据技术专业就业前景广阔,广泛应用于互联网、金融、医疗等众多行业,助力企业数字化转型。岗位涵盖大数据开发、分析、运维及管理,如大数据工程师、分析师和系统运维工程师等。这些岗位因专业性和稀缺性而享有优厚薪资,尤其在一线城市可达20万至50万年薪。随着技术进步和经验积累,从业者可晋升为高级职位或投身数据咨询、创业等领域,发展空间巨大。
14 5
|
8天前
|
人工智能 编解码 搜索推荐
大模型、大数据与显示技术深度融合 加速智慧医疗多元化场景落地
大模型、大数据与显示技术深度融合 加速智慧医疗多元化场景落地
|
2月前
|
分布式计算 搜索推荐 物联网
大数据及AI典型场景实践问题之通过KafKa+OTS+MaxCompute完成物联网系统技术重构如何解决
大数据及AI典型场景实践问题之通过KafKa+OTS+MaxCompute完成物联网系统技术重构如何解决
|
2月前
|
大数据 数据处理 分布式计算
JSF 逆袭大数据江湖!看前端框架如何挑战数据处理极限?揭秘这场技术与勇气的较量!
【8月更文挑战第31天】在信息爆炸时代,大数据已成为企业和政府决策的关键。JavaServer Faces(JSF)作为标准的 Java Web 框架,如何与大数据技术结合,高效处理大规模数据集?本文探讨大数据的挑战与机遇,介绍 JSF 与 Hadoop、Apache Spark 等技术的融合,展示其实现高效数据存储和处理的潜力,并提供示例代码,助您构建强大的大数据系统。
31 0
|
2月前
|
SQL 存储 分布式计算
神龙大数据加速引擎MRACC问题之RDMA技术帮助大数据分布式计算优化如何解决
神龙大数据加速引擎MRACC问题之RDMA技术帮助大数据分布式计算优化如何解决
28 0
|
28天前
|
存储 大数据 数据挖掘
【数据新纪元】Apache Doris:重塑实时分析性能,解锁大数据处理新速度,引爆数据价值潜能!
【9月更文挑战第5天】Apache Doris以其卓越的性能、灵活的架构和高效的数据处理能力,正在重塑实时分析的性能极限,解锁大数据处理的新速度,引爆数据价值的无限潜能。在未来的发展中,我们有理由相信Apache Doris将继续引领数据处理的潮流,为企业提供更快速、更准确、更智能的数据洞察和决策支持。让我们携手并进,共同探索数据新纪元的无限可能!
81 11
|
2月前
|
存储 分布式计算 大数据
MaxCompute 数据分区与生命周期管理
【8月更文第31天】随着大数据分析需求的增长,如何高效地管理和组织数据变得至关重要。阿里云的 MaxCompute(原名 ODPS)是一个专为海量数据设计的计算服务,它提供了丰富的功能来帮助用户管理和优化数据。本文将重点讨论 MaxCompute 中的数据分区策略和生命周期管理方法,并通过具体的代码示例来展示如何实施这些策略。
82 1
|
2月前
数据平台问题之在数据影响决策的过程中,如何实现“决策/行动”阶段
数据平台问题之在数据影响决策的过程中,如何实现“决策/行动”阶段
|
2月前
|
存储 监控 安全
大数据架构设计原则:构建高效、可扩展与安全的数据生态系统
【8月更文挑战第23天】大数据架构设计是一个复杂而系统的工程,需要综合考虑业务需求、技术选型、安全合规等多个方面。遵循上述设计原则,可以帮助企业构建出既高效又安全的大数据生态系统,为业务创新和决策支持提供强有力的支撑。随着技术的不断发展和业务需求的不断变化,持续优化和调整大数据架构也将成为一项持续的工作。
|
2月前
|
分布式计算 DataWorks 关系型数据库
DataWorks产品使用合集之ODPS数据怎么Merge到MySQL数据库
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。

热门文章

最新文章

相关产品

  • 云原生大数据计算服务 MaxCompute
  • 下一篇
    无影云桌面