EB级别体量之下的高效数据赋能 ——云栖大会阿里大数据分论坛精彩演讲2

本文涉及的产品
可视分析地图(DataV-Atlas),3 个项目,100M 存储空间
数据可视化DataV,5个大屏 1个月
智能数据建设与治理Dataphin,200数据处理单元
简介: 2017云栖大会-阿里大数据分论坛,我们通过串联7个演讲,将阿里十余年在大数据领域 沉淀的技术能力和应用实践对外分享,系统性介绍我们是如何构建一个从底层的数据采集、处理,到挖掘算法、应用、产品服务的全链路、标准化的大数据体系,使得超过EB级别的海量数据能够高效融合,并以秒级的响应速度,服务并驱动阿里巴巴的业务和外部千万用户的发展。


数据服务和数据产品开发平台
分享人:姚滨晖(阿里巴巴资深技术专家)



image


背景

总体来看,阿里巴巴的生态可以分为六个业务板块:电商、物流、健康、文娱、金融,以及云计算。阿里巴巴通过这些业务,服务了数亿用户,上千万的小微企业,以及上千万的商家。伴随着我们的业务服务,同时截止目前,我们已经沉淀的数据量高达E B级规模。

通过全域数据体系,我们建设、融合、链接了这些来自不同业态的数据。

下面这张图,勾勒了阿里巴巴大数据体系。

image
图:阿里巴巴大数据体系

从下往上看,最底层的是全域数据,第二层是基础数据建设,它包括了人工智能的一些算法。在基础数据建设的上面分别是各种数据服务和数据产品开发平台。

从图中我们也可以发现,我们的数据产品和服务,实际上是通过各类不同的应用场景来达到服务阿里小二、阿里商家、消费者、合作伙伴的目的。

所以,数据服务和数据产品开发平台,它与应用场景是强相关,直接连接,他们的主要作用是把底层建设完的数据、算法,生产成可以直接赋能业务和用户的应用。


数据服务和数据产品开发平台的关系?

数据服务和数据产品开发平台的关系就像齿轮一样,它们是相互依存的一个整体。
为什么这么说?

从业务角度来看:业务使用数据有两个最核心的场景:

第一、业务本身需要数据。这时候,业务会通过数据服务来直接获取数据,这是第一个场景。
第二、业务中的运营、分析师,他们需要使用数据来更好地提升数据赋能的效能。这时候
运营和分析师,就会通过相应的数据产品,来使用数据。所以,这就是数据产品开发平台承担的主要职责。

所以通过这两个核心的数据赋能业务的场景,我们可以发现数据服务和数据产品开发平台,之间相关依存的关系。

从优势角度来看,将数据服务好和数据产品开发平台组合起来,它们可以体现三个优势:

第一、通过这样的一个组合,能够打破在业务之间的数据壁垒。这里要强调的是它们打破的不是在底层的数据壁垒,而是打破在业务之间的数据壁垒,因为6大业务板块,所产生的数据形态、含义、结构都有很大差异。在底层完成了整个数据打通之后,打破壁垒就是为了在业务层上,让数据在各个业务间像水一样来流通。
第二、满足灵活多变的数据需求。
第三、全域流通和按需自助实现。这个组合可以实现所有用户可以去按需自助来完成,而不需要专业开发、产品来介入。


数据服务介绍

数据服务主要由四个核心能力组成:首先,基础数据服务,它主要是提供基础数据能力,实现上万数据指标跨域获取;其次,标签画像服务,通过这个服务,可以给用户提供上百个标签刻画;第三是人群透视服务,这个服务其实是在标签智商最的提炼,在营销场景中,可以通过接入这个服务,来实现人群的圈选等;第四、除了上述三种服务之外,还有算法模型服务,通过一键服务化的方式,把算法能力通过服务透出。


image
图:数据服务的架构

上图展示了数据服务的架构。

从上往下看,portal是一个门户,通过它可以发现,整个阿里巴巴公共层,有多少基础的指标可以去获取,并且这些指标现在已经被哪些业务部门通过什么样的方式来获取。

用户只需要按照同样的方式,就能够获取到对应的数据,极大缩短用户发现数据、获取数据以及使用数据的路径。

中间这层是DSL,通过DSL我们把用户获取数据的标准和规范进行了统一,整个DSL之下有一些大的核心能力。QueryEngine实现所有跟查询相关的能力输出;PushEngine提供实时数据推送的能力;DAG可视化,可配置编排业务逻辑。Algorithm Engine输出算法和人工智能的能力。


image
图:DSL&DAG实例

现在,我们的数据服务的主要有三大应用场景:第一个是阿里集团内部,诸如搜索、推荐、营销等场景;第二就是数据大屏,大家在双11看到酷炫大屏,它其实就是通过数据服务来实现的;第三就是商业化数据产品,被商家熟知的生意参谋,它所展示的数据也是通过数据服务来实现的。


数据产品开发平台

我们构建数据产品开发平台最核心的目的就是,让非专业的开发人员,也可以根据自己的需求,来搭建数据产品,从而实现自己使用数据的目的。

那么数据产品开发平台,它主要对外提供了四个能力:

第一、用户可以完成数据分析;
第二、用户可以去自助实现报表配置;
第三、非开发人员可以利用它去实现产品配置;
第四、开发人员可以通过它,开发一些更加复杂、更加个性化、更加定制化的一些数据产品。

具体来看数据产品开发平台的架构,整个架构的核心能力依然由两个部分组成。应用端和服务端。


image


在应用和服务中间是DSL,所有的应用和服务,最终都会按照DSL标准来配置。通过数据产品开发平台构建完成的应用和服务,并不是一个独立运行的实体,它实际上是一个配置,渲染引擎、执行引擎等可以加载和运行这个配置;通过构建引擎生成一个配置,来实现不同国家、不同机房、不同终端都能运行的目的。


image


事实上,整个数据产品开发平台的构建思路主要由两个核心点:什么是变的以及什么是不变的。
其实我们只要能够对数据使用过程分析、分解出变和不变这两个要素,就能够比较快速地解决问题。
举个例子:对于一个应用,我们怎么来分解变和不变两个要素。


image


应用的布局、样式、分析思路……这些都是不变的;但应用中的组件,可以是一个图表、可以是功能区域,也可以是一个不可见的逻辑……这些是变化的。

继续分析一个组件:组件的类型、属性是不变的;但是每个组件它所能够表达的数据,是可以变化的;同理推导数据:对于一个数据来讲,格式是、权限是不变的;但是数据是从哪个服务能够获取到数据,这个是可以变化的。

最后到服务这一层,服务里面有两部分组成:通过SQL获取的原始数据和业务逻辑;通过业务逻辑对原始数据的加工和编排,最后以服务化的方式,把数据开放给上层应用。

了解思路之后,我们再来看一下整个平台的构建过程,它们分别是在应用端和在服务端的构建引擎。

对于应用端的构建引擎,需要注意的是非开发人员,通过构建引擎,只需要输入四个要素——样式、布局、组件以及分析思路,就能构建出一个基于DSL描述的一个应用;同理,在服务端也是一样的,非开发人员通过输入SQL,和一些业务逻辑的实现,就能够生成一个基于DSL描述的服务。在应用层,上述的服务是可以实现PC、无线和大屏的跨端。

在使用过程中,下图是一个使用过程的示意:就是通过两个引擎:渲染引擎和执行引擎。


image


它们都会去加载DSL描述的应用和服务,然后进行交互来完成整个这个产品的实现。

数据产品开发平台在阿里的应用对象主要是四块:

首先是业务运营,在日常运营中,运营人员可以通过这个平台去自助的去生成所需要的产品;
第二块是决策分析,分析师会帮助行业来进行业务分析指导,他们会通过整个平台来使用和开发自己的数据分析产品,完成决策分析;
第三,后端营销其实也可以通过它来搭建产品;

最后就是刚才提到的——生意参谋,这是通过这个平台开发商业应用产品,目前已经累积服务了2千万商家。

来源:阿里数据
原文链接

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
2天前
|
存储 大数据 数据挖掘
【数据新纪元】Apache Doris:重塑实时分析性能,解锁大数据处理新速度,引爆数据价值潜能!
【9月更文挑战第5天】Apache Doris以其卓越的性能、灵活的架构和高效的数据处理能力,正在重塑实时分析的性能极限,解锁大数据处理的新速度,引爆数据价值的无限潜能。在未来的发展中,我们有理由相信Apache Doris将继续引领数据处理的潮流,为企业提供更快速、更准确、更智能的数据洞察和决策支持。让我们携手并进,共同探索数据新纪元的无限可能!
33 11
|
7天前
|
存储 分布式计算 大数据
MaxCompute 数据分区与生命周期管理
【8月更文第31天】随着大数据分析需求的增长,如何高效地管理和组织数据变得至关重要。阿里云的 MaxCompute(原名 ODPS)是一个专为海量数据设计的计算服务,它提供了丰富的功能来帮助用户管理和优化数据。本文将重点讨论 MaxCompute 中的数据分区策略和生命周期管理方法,并通过具体的代码示例来展示如何实施这些策略。
31 1
|
12天前
数据平台问题之在数据影响决策的过程中,如何实现“决策/行动”阶段
数据平台问题之在数据影响决策的过程中,如何实现“决策/行动”阶段
|
16天前
|
存储 监控 安全
大数据架构设计原则:构建高效、可扩展与安全的数据生态系统
【8月更文挑战第23天】大数据架构设计是一个复杂而系统的工程,需要综合考虑业务需求、技术选型、安全合规等多个方面。遵循上述设计原则,可以帮助企业构建出既高效又安全的大数据生态系统,为业务创新和决策支持提供强有力的支撑。随着技术的不断发展和业务需求的不断变化,持续优化和调整大数据架构也将成为一项持续的工作。
|
19天前
|
分布式计算 DataWorks 关系型数据库
DataWorks产品使用合集之ODPS数据怎么Merge到MySQL数据库
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
|
25天前
|
消息中间件 数据采集 JSON
大数据 - DWD&DIM 行为数据
大数据 - DWD&DIM 行为数据
32 1
|
7天前
|
分布式计算 安全 大数据
MaxCompute 的安全性和数据隐私保护
【8月更文第31天】在当今数字化转型的时代背景下,企业越来越依赖于大数据分析来推动业务增长。与此同时,数据安全和隐私保护成为了不容忽视的关键问题。作为阿里巴巴集团推出的大数据处理平台,MaxCompute(原名 ODPS)致力于为企业提供高效、安全的数据处理解决方案。本文将探讨 MaxCompute 在数据安全方面的实践,包括数据加密、访问控制及合规性考虑等方面。
24 0
|
1月前
|
机器学习/深度学习 人工智能 分布式计算
理解并利用大数据的力量:解锁数据背后的价值
【8月更文挑战第7天】大数据已成为推动社会进步和经济发展的重要力量。通过理解并利用大数据的力量,企业可以解锁数据背后的价值,优化业务流程、提升决策效率和创新能力。然而,大数据应用也面临着诸多挑战和风险,需要企业不断学习和实践以应对。相信在未来的发展中,大数据将为我们带来更多的惊喜和机遇。
|
18天前
|
SQL 分布式计算 大数据
"揭秘MaxCompute大数据秘术:如何用切片技术在数据海洋中精准打捞?"
【8月更文挑战第20天】在大数据领域,MaxCompute(曾名ODPS)作为阿里集团自主研发的服务,提供强大、可靠且易用的大数据处理平台。数据切片是其提升处理效率的关键技术之一,它通过将数据集分割为小块来优化处理流程。使用MaxCompute进行切片可显著提高查询性能、支持并行处理、简化数据管理并增强灵活性。例如,可通过SQL按时间或其他维度对数据进行切片。此外,MaxCompute还支持高级切片技术如分区表和分桶表等,进一步加速数据处理速度。掌握这些技术有助于高效应对大数据挑战。
32 0
|
24天前
|
消息中间件 大数据 Kafka
大数据 - DWD&DIM 业务数据
大数据 - DWD&DIM 业务数据
30 0

热门文章

最新文章

下一篇
DDNS