云场景实践研究第5期:朗新科技

简介: 从13年的费控到双向电表,传统的电力行业正向互联网转型,目前采用的方式是以小时为基准,对整体数据处理。面对千万级别数据量和数以百万计的高并发实时查询以及异构平台的接入,传统IOE企业架构难以应对。而本文的案例研究中,朗新科技借助阿里云的能力一一击破了电力行业向互联网转型过程中的诸多挑战。

更多云场景实践研究案例,点击这里:【云场景实践研究合集】联合不是简单的加法,而是无限的生态,谁会是下一个独角兽

从13年的费控到双向电表,传统的电力行业正向互联网转型,目前采用的方式是以小时为基准,对整体数据处理。面对千万级别数据量和数以百万计的高并发实时查询以及异构平台的接入,传统IOE企业架构难以应对。而本文的案例研究中,朗新科技借助阿里云的能力一一击破了电力行业向互联网转型过程中的诸多挑战。

“任何技术的进步无外乎两种驱动力:第一是社会进步发展的驱动;第二更多是个人用户对应用差异性体验驱动。对于公共行业的业务,在整体服务化、组件化的过程中,企业可依托阿里云平台的技术,结合本行业的流程构建整体快速开发的平台。同时在快速开发平台中也可以引申到平台设计、服务组建复用以及整体数据分析上再构,通过定制化软件,降低成本。”

——林海潮

朗新科技首席架构师


采用的阿里云产品

  • 阿里云数据传输服务 DTS
  • 阿里云分布式关系型数据库服务 DRDS
  • 阿里云云数据库 RDC
  • 阿里云消息队列 MQ (原ONS)
  • 阿里云大数据计算服务 MaxCompute (原OPDS)

为什么使用阿里云

实现微应用需要依托云平台的扩展能力和服务体系

需要解决配置表、微量表访问比较频繁的问题

微应用间的交互通过消息事件驱动,在应用解耦的同时,满足应用扩展以及实时性的要求

需要依托阿里云的基础全面提升数据库层面和应用层面的的弹性扩展能力


关于 朗新科技

朗新科技股份有限公司创立于2003年,是一家专注于电力、燃气等公共事业行业从事信息技术研发、技术咨询服务与系统运营管理的大型股份制有限公司。公司致力于为公共事业企业提供领先高效的IT解决方案与服务,帮助企业应对市场变革与竞争挑战。朗新科技目前已为超过1.7亿的电力用户提供服务,是中国最大的公共事业行业关键业务解决方案和服务提供商之一。


传统企业IOE架构系统所面临的挑战

传统的企业系统多采用IOE架构,核心逻辑在数据库中实现,数据库是系统最为关键的部分。其处理方式基本是从客户端到应用中间件集群再到数据库叠加的SQL+存储过程;架构的存储横向扩展能力和实时快速处理能力不足;并且数据库多采用Oracle RAC,导致其扩展性有限,采用的国外的小型机服务器进一步增加成本。传统企业架构进行优化面临以下四个挑战:
(1)去中心化,将集中系统拆分成不同的节点,每个节点独有的开放性、完整法、独立性;
(2)实时处理,接收到数据后实时响应计算,一个小时完成三千万计算;
(3)高并发,数以百万计的实时查询;
(4)高可用,在高并发的情况下保持每个计算问题完整且平稳。


为什么选择阿里云?

在数据贮备到电费测算再到数据回写的整个过程的关键指标有两个:一是千万级别数据量计算与性能需求呈线性增长;二是数以百万计的高并发实时查询以及其他异构平台的接入。而基于以上去中心化、实时处理、高并发、高可用的四大传统企业IOE架构所面对的挑战,朗新科技借助阿里云的力量采取了多种应对机制,进行逐个击破。

微应用

朗新科技以阿里云平台为基础,依托云平台的扩展能力和服务体系,针对整体业务特点进行细小化的功能部署,保证微应用针对独立的业务。与偏向小颗粒度和较少代码的微服务相比,微应用偏向于业务应用逻辑以及对内部相互依赖或者关联度较高的业务继承,是组件化与服务化结合。

c11a696ea85f3edb9b240e360874928eb8816d5c

微应用开发简图

如上图所示,微应用开发过程首先把系统中业务功能组件化和服务化,然后将微应用整合到云平台形成统一的服务管理。在整体的服务化过程中,业务拆分时需要对业务进行梳理。整体业务流程繁多,从代码服务的角度考虑把耦合度降低,无须细分颗粒度相互之间的耦合度。微应用是将原业务应有场景切分成许多不同的小的服务,每个服务具有自身的特性,单个服务可以直接部署在系统中,单点故障不会影响整体系统的能力,提高系统的可用性。与传统的大型管理系统相比,微应用的形态呈现出功能少、体积轻,能够快速交付和敏捷响应需求变化。


分表分库

微应用提交数据交互内容时,正常的维度是以Hash和时间做分表分库,也可以从业务特色和业务特点进行拆分。原则上遵循两种方式:第一种,基于较大的表拆分到不同的小表,根据不同业务属性和业务关联程度分到不同的库;第二种,小表拆分的方式,现实中会产生大量小表如配置表、基础信息表,虽然这类表量不大,但是许多操作需要频繁的查询调用。此类情况应将小表以广播的方式同步复制到各个库当中,解决配置表、微量表访问比较频繁的问题。

fa8fc3bad1216890468e8c22c3c1d68b17fd5cbe

多维度分表分库方式

事件驱动

每个微应用即是消息的生产者也是消费者。在整体微应用的调度中,通过ONS来驱动整体业务的串联。整体的数据是经过一小时左右的时延的数据,微应用集群和分布式消息集群在配置中心和协同组件的控制下进行数据交互。微应用间的交互通过消息事件驱动,在应用解耦的同时,满足应用扩展以及实时性的要求。

1291fbe12e17b636dd1e325fa2fc9d8753bcba6c

消息事件驱动过程

大数据

相对互联网企业而言,实际上用到的大数据并不是很多。系统跟外部关联特别多,单独专注于某一特定模块具有较大的局限性。所以系统要与短信系统、产业系统相连接,仅专注于中间层是不行的。上图是基于大数据技术对档案及电费数据分析处理的过程:数据库中,对动态数据进行全量同步和增量同步,生成与之对应的全量库和增量库,再通过ELT整合成统一库进行业务调度,然后计算引擎完成整体数据离线清洗、计算,再将同步库数据返回到整体业务数据库。在这里,统一库和同步库没有太大的差异,只是逻辑定义不同。通过整体思想,定义业务访问数量标准和规则,统一化数据的存储和使用方式。

66a0bb11f36ec5850a8eff402f5a9cafaff41423

基于大数据平台的数据分析流程

弹性扩展

整体依托阿里云的基础上,全面提升数据库层面和应用层面的的弹性扩展能力。数据库层面弹性扩展,采用数据路由方式,不同数据节点调用方式各异。整体应用层的弹性扩展,采用的阿里云对服务治理来解决服务调用的过程,微应用通过长连接到注册中心进行注册,在微应用调用方订阅注册中心的前提下,注册中心同样以长连接的方式通知不同的微应用调用方,微应用调用方直接调用提供方所提供的微应用,同时监控中心以短连接的方式对微应用进行监控,微应用提供方也可进行弹性扩展增加新的微应用。

da66eae866948bf5ee490b4785b153e2b008bd65

弹性扩展架构

基于阿里云的架构优化

下图是基于阿里云的架构优化,正中间是集群,将传统服务拆成很多微服务。从营销系统将用户档案、电价参数等数据同步到费控数据库集群中,DTS负责数据传输,监听DRDS集群中数据变更的内容,并将变更的内容放到整体的集群里。在ONS集群中为了保证整体应用的协同,应定义出相应的消息包括测算通知消息、档案变动消息等。接下来把数据准备和数据分析传到ODPS集群中,ODPS集群把相应数据整体推送给采集系统,然后采集系统将消息推送到数据采集终端,发送到不同用户的电表上进行停电或者复电操作。

3eb02b413de89ef700bf5fb071cc282ff0e99e0f

基于阿里云的架构优化


"任何技术的进步无外乎两种驱动力:第一是社会进步发展的驱动;第二更多是个人用户对应用差异性体验驱动。传统的行业在面向企业应用时同样做出了很多努力,包括整体资源统一、数据打通、以及面向定制化产品快速的开发。对用户层,随着海量数据处理的实现,成本逐渐降低。通过阿里云平台,企业可以实现从整体服务到整体业务应用服务再到整体的组建化、服务化的过程。 "

——林海潮


关于朗新科技的更多实践详情:朗新科技林海潮:企业应用的云上架构演变

原文发布时间:2016-2-1

云栖社区场景研究小组成员:贾子甲,仲浩。

相关实践学习
简单用户画像分析
本场景主要介绍基于海量日志数据进行简单用户画像分析为背景,如何通过使用DataWorks完成数据采集 、加工数据、配置数据质量监控和数据可视化展现等任务。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
机器学习/深度学习 人工智能 自然语言处理
业界首批「首席AI架构师」出炉,百度黄埔学院推动飞桨在企业中的应用
今年初,百度联合「深度学习技术及应用国家工程实验室」成立「黄埔学院」,旨在为各行各业培养第一批「首席 AI 架构师」。 第一期学员共 35 人,分别来自不同企业和单位(包括国家卫星气象中心、中油瑞飞、中信银行、神思电子、OPPO、广东电网、广东长隆集团、中国联通软件研究院、华为、米文动力、爱奇艺等),当然杨鋆源是其中之一。 他们在北京进修半年,在半年时间里,他们结合自身行业和企业需求,使用飞桨(PaddlePaddle),将 AI 结合到业务实践中应用落地。
232 0
业界首批「首席AI架构师」出炉,百度黄埔学院推动飞桨在企业中的应用
|
人工智能 达摩院 算法
AI圈内卷?天池团聚请来专家集体“问诊”
当前,人工智能已成为引领新一轮科技革命与产业变革的重要驱动力,而数据则是人工智能时代必不可少的生产资料。
AI圈内卷?天池团聚请来专家集体“问诊”
|
机器学习/深度学习 人工智能 自动驾驶
阿里研究员吴翰清:世界需要什么样的智能系统?
吴翰清,被大家亲切地称为“小黑”“道哥”。他是阿里巴巴研究员,更是一位“白帽黑客”。15岁,考入西安交大少年班,毕业后应聘阿里。23岁,成为阿里最年轻的高级技术专家。32岁,被评选为2017年度全球35位35岁以下的青年科技创新人才(TR35)。网上有许多关于他的猜测,然而,他始终保持低调,专注于自己热爱的事业。2014年之后,他几乎不再写文章;但在今天,他有话想说,关于自己,关于科技,关于未来,说给你听,说给世界听。
10462 0
|
人工智能 大数据
阿里云天池联合重庆广发“英雄帖”,用AI突破工业技术瓶颈
8月27日,在2019重庆智博会阿里云峰会上,重庆市大数据应用发展管理局、重庆市江津区人民政府联合阿里云天池大数据众智平台共同启动首届“数智重庆·全球产业赋能创新大赛”,旨在探索计算机视觉算法、运筹优化算法等AI技术,促进工业和人工智能技术融合,用技术驱动重庆产业智能转型升级。
1074 0
|
新零售 大数据
云场景实践研究第77期:云徙科技
作为阿里生态战略合作伙伴,云徙科技在阿里云的大数据和新技术的帮助下,使企业成功实现数字化转型,并且创造了新的价值。本文将带领大家一同了解云徙科技在新技术、大数据赋能下的转型创新之路。
3001 0
|
存储 弹性计算 安全
云场景实践研究第80期:华大基因
作为全球最大的基因组学研究中心,华大基因在阿里云的帮助下,实现了海量数据的及时获取、快速分析、安全储存。本文将带领大家一同了解华大基因的基于大数据分析的云计算实践之路。
4359 1
|
运维 关系型数据库 数据库
云场景实践研究第70期:秦苍科技
本文主要为大家分享了秦苍信息科技HTPA型数据库产品在现实中的落地应用,企业级数据库架构设计中遇到的问题以及基于云数据库运维的思考。
1771 0
|
新零售 分布式计算 大数据
云场景实践研究第56期:佰腾科技
作为国内知名的知识产权服务公司,佰腾在专利信息应用上研究多年,一直致力于解决一个问题:让专利信息应用变得大众化。佰腾专利通过大数据平台的演化,利用MaxCompute平台,每纬度数据处理速度由之前的2-3天,缩短到3-6个小时。
1537 0
|
物联网 大数据 机器人
云场景实践研究第74期:科沃斯
科沃斯机器人德国的市场占有率达到了34%,是德国所有扫地机器人的NO.1的产品。本文分享了科沃斯基于阿里大数据平台的架构、基于阿里云Link的物联网应用等布局与建设”等经验首次对外详细剖析。
1891 0