新一代计算引擎亮相云栖大会 ——带你深度了解阿里巴巴计算平台

本文涉及的产品
智能开放搜索 OpenSearch行业算法版,1GB 20LCU 1个月
智能开放搜索 OpenSearch向量检索版,4核32GB 1个月
OpenSearch LLM智能问答版免费试用套餐,存储1GB首月+计算资源100CU
简介: 2018年9月19日至22日,在杭州云栖小镇,170余场前沿技术、产品及行业峰会,如火如荼地进行着。这次云栖大会的主题是“驱动数字中国”。作为阿里巴巴经济体新一代计算引擎的计算平台,深度参与了此次峰会。下面小编带大家一起回顾大会的精彩内容。

2018年9月19日至22日,在杭州云栖小镇,170余场前沿技术、产品及行业峰会,如火如荼地进行着。这次云栖大会的主题是“驱动数字中国”。作为阿里巴巴经济体新一代计算引擎的计算平台,深度参与了此次峰会。下面小编带大家一起回顾大会的精彩内容。

新一代计算引擎-大数据智能计算引擎

9月21日下午,计算智能峰会在云栖举行。在此次会议上,阿里巴巴副总裁、计算平台负责人周靖人博士及其团队向大家展示了阿里巴巴大数据智能计算引擎的核心技术能力。近年来,由于分布式计算力、网络、存储等能力的大幅提升,大规模数据采集和高效处理成为可能;随着深度学习、机器学习技术的发展,大量、全面、准确的数据成为当前几乎所有商业或科学决策的重要必备条件。海量数据存储、精准数据采集、丰富的数据类型、高效的机器智能算法及与之匹配的超大规模计算力直接决定了技术企业的水平和前景,也影响着技术企业所赋能整个经济体的效率和效果。作为阿里巴巴集团新一代的计算引擎,阿里巴巴计算平台支撑了整个阿里经济体90%以上的结构化/非结构化数据的存储、交换、管控,数据规模已超EB级别。这是一套通用的、超大规模、企业级、全托管的大数据计算体系,包括核心计算引擎、机器学习引擎,集成开发环境,数据存储和管理,以及与上层合作的解决方案,并且具备了新一代计算引擎的五大要素:

  • 海量数据规模下高性价比的离线及实时计算力;
  • 实时+离线任务一体化研发能力;
  • 实时+离线异构数据湖交互式查询能力;
  • 超大规模机器学习、深度学习异构计算力;
  • 一站式端到端的云上大数据智能研发平台。

image.png

上图为阿里巴巴副总裁、计算平台负责人周靖人博士在云栖大会

在本次为期四天的云栖大会上,除计算智能峰会专场外,计算平台还设有数加DataWorks、大数据计算、Flink、机器学习平台、开源大数据五场分论坛专场。

DataWorks-新一代大数据智能云研发平台

数加DataWorks专场—“谱写数据研发的交响曲”,作为大数据必备的一站式研发平台,吸引了大量的参会者参与。DataWorks经过9年集团发展、5年公共云、3年专有云的发展,服务了成千上万的企业。本次大会上,来自阿里巴巴集团的众多专家对新一代大数据智能云研发平台做了详细的解读,针对新一代数据平台的发展趋势提出了4个核心能力:实时离线任务一体化开发、异构数据湖查询、数据端到端服务、实时交互式查询。

image.png

上图为阿里巴巴资深技术专家、数加DataWorks负责人徐晟在云栖大会

MaxCompute-阿里巴巴旗舰级大数据平台

与主论坛一同亮相的MaxCompute大数据计算专场也获得了极大关注。作为阿里巴巴集团旗舰级大数据平台,MaxCompute承载了阿里集团99%的数据存储及95%的计算能力。2017年10月,将TPC的benchmark适配到MaxCompute,进行了全球首次基于公共云的bigbench大数据基准测试,数据规模拓展到100TB,性能达到7830QPM,成为首个突破7000分的引擎。 2018年该性能结果再次提升超过2倍,达到18176.71QPM,用实力证明了“中国计算,世界能力”。从计算力、生态化、智能化、图关系四个维度来看,MaxCompute提供的不仅是单一的计算引擎,而是具备EB级规模的云原生、高性能、面向企业完整的大数据服务。

image.png

上图为阿里巴巴研究员、通用计算平台负责人关涛在云栖大会

Flink-阿里巴巴在Flink上的优化与改进

此次云栖大会计算平台也首次设立了Flink的论坛。三年前,在阿里巴巴内部启动Flink时,因其开源产品的特性,很难满足阿里大体量的特定场景需求,为了将Flink在阿里巴巴真正运行起来,阿里巴巴实时计算团队做了大量的优化,并命名为Blink。Blink在迭代优化的过程中,也在不断向社区捐赠代码,真正做到“取之开源,用之开源”。目前,阿里巴巴的实时业务场景,从搜索到广告、数据平台、安全等等。所有大的场景都是基于阿里巴巴内部版本Blink展开,同时通过RealtimeCompute产品在阿里提供公共云服务。在前不久刚落幕的Flink Forward上,阿里为Flink提出的批流融合新突破,成为了技术架构上的一个新方向,并在阿里巴巴内部已经得到了初步的成果和验证。

image.png

上图为阿里巴巴研究员、实时计算负责人蒋晓伟在云栖大会

PAI-阿里巴巴的算法平台

同日举办的还有计算平台的机器学习平台专场-“为AI的旅程加速”,吸引了大量参会者驻足。机器学习平台PAI (Platform of Artificial Intelligence)是阿里巴巴集团的机器学习算法平台,该平台为用户提供了一站式数据处理、算法模型训练、离线在线预测的服务。随着计算力及数据量进一步呈爆发式增长,数据的积累使得机器学习训练出来的模型有效性大大提高,甚至突破了人类水平,机器智能开始被广泛应用到各行各业。机器学习平台PAI,无缝对接了强大的计算引擎及大数据研发平台。在2018年杭州云栖大会的机器学习专场上,PAI团队向与会者介绍了在深度学习、在线预测、流式算法、增强学习等领域的技术创新。

image.png

上图为阿里巴巴研究员、机器学习平台负责人林伟在云栖大会

EMR-开源大数据专场

E-MapReduce在云栖为大家带来一场开源大数据的分享盛宴,从方方面面给各种需求的客户带来了不同的内容,给广大的Hadoop体系用户带来了构建大数据平台的多个必备利器,包括对基础计算引擎SparkSQL的极大优化,对OSS读写的50%以上的性能提升。对大数据运维的全面支持能力EMR apm,以及在深度学习上我们的探索EMR learning。 所有这一切不仅仅是在讲台上,也都已经在我们的云上版本中逐步放出,服务到所有的用户。

image.png

图为EMR-开源大数据专场现场

阿里巴巴大数据智能云上编程大赛

由阿里巴巴计算平台事业部和阿里云天池平台联合主办的“阿里巴巴大数据智能云上编程大赛”在此次云栖大会期间迎来了总决赛。本次大赛经历2个月时间,共吸引来自全球9个国家地区,超过1100名的技术Geek加入挑战,最终来自北京邮电大学、南京理工大学、江苏省气象台、黑龙江邮政等高校和单位的5支参赛队伍成功入围决赛。在计算智能峰会上,编程大赛的结果正式公布。冠军“Now coder”团队由来自北京邮电大学的四位研究生组成,他们热爱编程和算法,数据与应用各有所长,相互协作成功夺冠。由于混沌现象的存在,天气预报的精度一直难以提高。本次大赛参赛选手以“集合降水预报”为课题,选取真实的杭州及周边区域格点降水数据,借助于阿里巴巴离线数据存储计算平台MaxCompute和算法引擎PAI,以及一站式数据智能云研发平台DataWorks的各方面能力,以所见即所得的体验,顺利完成了对气象数据的分析利用和结果展现,让算法和应用相辅相成,共同奏响了数据与应用的交响曲。

image.png

今天,阿里巴巴计算平台已随着云上业务的发展,将技术普惠到全球,服务于各行各业的企业用户,我们的新一代智能计算引擎正逐步成为当今中国技术积累最深,经受过最大业务考验,具有真正企业级服务能力的大数据智能计算平台。

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
一站式大数据开发治理平台DataWorks初级课程
DataWorks 从 2009 年开始,十ー年里一直支持阿里巴巴集团内部数据中台的建设,2019 年双 11 稳定支撑每日千万级的任务调度。每天阿里巴巴内部有数万名数据和算法工程师正在使用DataWorks,承了阿里巴巴 99%的据业务构建。本课程主要介绍了阿里巴巴大数据技术发展历程与 DataWorks 几大模块的基本能力。 课程目标  通过讲师的详细讲解与实际演示,学员可以一边学习一边进行实际操作,可以深入了解DataWorks各大模块的使用方式和具体功能,让学员对DataWorks数据集成、开发、分析、运维、安全、治理等方面有深刻的了解,加深对阿里云大数据产品体系的理解与认识。 适合人群  企业数据仓库开发人员  大数据平台开发人员  数据分析师  大数据运维人员  对于大数据平台、数据中台产品感兴趣的开发者
相关文章
|
云栖大会
平台工程与BizDevOps,云效邀你参加2023云栖大会
2023云效云栖大会议程抢先看
4075 3
平台工程与BizDevOps,云效邀你参加2023云栖大会
|
2月前
|
人工智能 运维 Serverless
Serverless + AI 让应用开发更简单,加速应用智能化
2024 云栖大会开幕,在大会第一天,阿里云正式发布全新产品——云应用开发平台 CAP。CAP 拥有丰富的场景化应用模板,可以极速体验,并且具备更低的成本优势以及灵活组装等特点,成为广大开发者与企业必备的一站式应用开发平台,让应用开发更简单。
184 12
|
数据可视化 小程序 前端开发
云栖大会 | UIPaaS 基于 LowCodeEngine 的低代码平台孵化器
这篇文章从企业视角入手,讲诉了为什么需要定制低代码平台,以及如何通过阿里开源的项目「低代码引擎」和阿里低代码商业产品 「UIPaaS」 降低企业定制低代码平台的成本。阅读这篇文章,你可以了解到企业为什么需要定制低代码平台,低代码引擎是什么,UIPaaS 是什么,UIPaaS 如何服务于中大型企业的,以及 UIPaaS 如何去解决一些低代码领域下的问题的。
|
弹性计算 数据可视化 关系型数据库
2023 云栖大会 | 「动手实践」基于阿里云构建博学谷平台实时湖仓
2023 云栖大会来啦,众多主题活动与你同聚,门票免费领取中,数量有限,先到先得!
547 0
2023 云栖大会 | 「动手实践」基于阿里云构建博学谷平台实时湖仓
|
云栖大会
|
前端开发 数据可视化 JavaScript
云栖大会上,阿里巴巴重磅发布前端知识图谱!
阿里巴巴前端知识图谱,由大阿里众多前端技术专家团历经1年时间精心整理,从 初阶 -> 中阶 -> 高阶 的维度讲述前端的 成长路线,囊括了前端从初学到当下热门领域的 717个重点知识节点,同时对于一些难点,还配套了详细的解释以及相关的学习查阅资料,不仅方便大家快速领略大纲,而且还可以轻松的查到最详细权威的资料。
1485 0
云栖大会上,阿里巴巴重磅发布前端知识图谱!
|
机器学习/深度学习 存储 人工智能
云栖大会推出阿里灵杰,大数据+AI一体化平台 6 大重磅发布
10月20日2021杭州云栖大会上,阿里巴巴集团副总裁、阿里云计算平台事业部负责人贾扬清发布大数据+AI一体化平台新品牌“阿里灵杰”,提供从“生产-采集-存储-分析-开发-治理-价值体现”整套云原生技术架构和产品体系,配套智能化运维平台和强大的数据资产安全管控能力。
1575 0
云栖大会推出阿里灵杰,大数据+AI一体化平台 6 大重磅发布
|
新零售 供应链 安全
《阿里巴巴数据中台实践》论坛亮相2021云栖大会,6个内部案例首次公开分享
在2021年10月22日云栖大会的《阿里巴巴数据中台实践》论坛现场,6位资深阿里巴巴专家首次公开分享了其在阿里内部进行数据中台价值交付的成功经验,可供企业在进行数据中台构建及应用的进程中借鉴应用。
《阿里巴巴数据中台实践》论坛亮相2021云栖大会,6个内部案例首次公开分享
|
人工智能 智能设计 城市大脑
2021云栖大会【视觉AI平台与生态论坛】线上直播等你来~
2021云栖大会【视觉AI平台与生态论坛】将于10月22日在杭州云栖小镇开启,可能因为地域的原因,您未能亲临现场,本次大会将在线上同步直播,大家不用出门,在家就能看到最新科技领域的成果展示~
782 0
2021云栖大会【视觉AI平台与生态论坛】线上直播等你来~
|
人工智能 Cloud Native 数据可视化
云栖大会企业管理协作与数智化专场 | 奥哲孟凡俊:低代码平台对当代企业智能管理的支撑
导读:在数字化时代,业务拓展快,迭变快将成为常态和主流,企业数字化转型除了企业内部协同提效之外,基于多项底层技术框架的低代码平台更是智能协作不可或缺的底层支持,奥哲高级副总裁兼奥哲云枢业务负责人将介绍低代码平台对于当代企业智能管理的支撑。
云栖大会企业管理协作与数智化专场 | 奥哲孟凡俊:低代码平台对当代企业智能管理的支撑

热门文章

最新文章