大白组件实现余额宝超大规模基金文件处理

简介: 本文PPT来自蚂蚁金服财富线技术专家叶恺于10月14日在2016年杭州云栖大会上发表的演讲,分享主题为《余额宝超大规模基金文件处理——分布式调度组件:余额宝大白组件》。

本文PPT来自蚂蚁金服财富线技术专家叶恺于10月14日在2016年杭州云栖大会上发表的演讲,分享主题为《余额宝超大规模基金文件处理——分布式调度组件:余额宝大白组件》。

基于单元化部署上的分布式环境无法充分利用机器资源等客观因素的存在,余额宝大白组件应运而生。今天技术专家叶恺为我们分享关于余额宝大白组件的相关知识。这次分享主要包括了四个部分:组件背景、组件功能、技术实现和未来展望。

组件背景。余额宝现有几十种任务类型,每日生成上百个文件,多种批量任务,几十种核对任务。然而,现有分布式调度中心不能区分资源类别,无法合理利用资源。大量类似的文件导入、导出任务,但文件格式多样,基础流程复用性低。此外,任务之间业务依赖关系,无统一通用的解决方案。这些都影响到余额宝的性能表现,也孕育出大白组件。

组件功能包含大文件导出,自适应调整及任务配置。大文件导出的思路概括为并行生成小文件后,合并成大文件;任务调度,任务执行独立。自适应调整创建高时效任务单独线程池,忙时集群内单机自发调度,自发调度开关自适应。任务配置建立任务模板,配置业务参数,建立任务依赖……

大白组件的技术实现分为实时任务管理、文件任务管理、文件读写、实时调度、定时调度和运维多个模块。每个模块各司其职。这其中,分布式调度和集中调度的实现机制尤为受人关注。对于未来的展望,大白组件会实现任务调度加资源调度的两级调度,更加合理使用集群资源。

462a662c5d71f3520da94b7cdb6aa335a3f208ba1186b901b230cb50f935786a35ebe3e95a5d1f3a3cba6f9bc61be9ea5fdf6257387ab82a318ab1545fd711c12f14e0af16cb28bfba5e640f4871d9ea498a49882c9c3066c38244aeb2334a23c777e6c7b2fc5d84ec3b4d1c8c8ce1e2db9e506c6d087d913af56b5f3a015f8d64e0be10b87b745be494724c3e42f2896b11b3d48a12ed8ea1d1ae71c8e63aff2a96f4a2d70456a1381b25b72842e36c1beb2deb4cb7574667ae27093b04661dc6f5ee0e309bf2b02eb097b141efccf05fe1850f667e1e29206c6cdb41c96fee874162c6d89231a2b97b3cf04dacc474

相关文章
|
8月前
|
Web App开发 数据采集 自然语言处理
python脚本抢各大平台大额优惠卷
python脚本抢各大平台大额优惠卷
157 0
|
区块链
Defi/IDO代币预售借贷分红模式系统开发部署搭建
pragma solidity ^0.8.0; contract IDX { // 代币总量 uint256 public totalSupply;
|
区块链
NFT盲盒双币质押分红dapp系统开发技术流程|源码部署方案
NFT盲盒双币质押分红dapp系统开发技术流程|源码部署方案
|
传感器 运维 机器人
53万一只,波士顿动力机器狗也赶618开卖?!6到8周发货,淘宝百万代购已上线
53万一只,波士顿动力机器狗也赶618开卖?!6到8周发货,淘宝百万代购已上线
192 0
|
移动开发 区块链
区块链首次应用于集五福:链上有“福”同享是什么体验?
新年到,支付宝集五福到。朋友圈、微博被各种花式扫福淹没:“福”、“福字”、“福字图片”霸占百度搜索指数前三;马云的“福”上线不到一天,被网友扫了1.5亿次。 今年,蚂蚁区块链首次加入集五福阵营——新华社民族品牌工程联合支付宝,将热门的区块链技术与福文化传承结合:从1月17日到24日,在支付宝“新春福气头条”H5中,全民找“福”字,生成专属福气头条,并可以通过蚂蚁区块链开放联盟链,将自己的福气头条存在链上,长久保存、分享,且不会被篡改,新一年的福气长长久久;同时通过支付宝上的区块链浏览器便可查看自己的福气头条,随时随地沾沾福气。
1305 0
区块链首次应用于集五福:链上有“福”同享是什么体验?
零售电商月销售额高达20+万?小程序分销模式助你一臂之力
小程序借着即用即走的特点,从2017年发展至今交出了很好的成绩单,在各个行业迸发出蓬勃的生命力,在“大众创业万众创新”的时代背景下,小程序的出现为创业者提供了更多的创新试错的机会,为每一位有想法、有梦想的创业者提供了一个大舞台。
1359 0
|
数据安全/隐私保护 计算机视觉
9月12日科技联播:美团点评IPO预留保证金额度无人问津,网约车派单前将用人脸识别技术审查
美团点评香港招股遇冷?被曝IPO公开发售保证金贷款未达目标;人脸识别进驻网约车,身份可以审查,人心如何审查?蔚来汽车今日在美挂牌上市,它的“蔚”来能撑得起它的估值吗?一起来看今天的科技快讯!
1868 0