技术与架构,解析如何将大数据最快落地到实践

本文涉及的产品
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
简介: 3月9日14点,业内首个结合技术与应用的在线大数据技术峰会即将展开,届时6位阿里技术大咖与4位行业资深实践者将从技术与业务两个方面,与大家探讨大数据如何最快落地到实践。较为有看点的是: 最深入的实践:本次在线峰会上,6个阿里规模的大数据实践将被深入分享,包括大数据平台的性能调优、流式增量计算、持续发布与演进、机器学习平台打造等。

免费开通大数据服务:https://www.aliyun.com/product/odps


直播回顾: https://yq.aliyun.com/webinar/history?spm=5176.8067841.wnold.1.rLvSkQ


3月9日14点,业内首个结合技术与应用的在线大数据技术峰会即将展开,届时6位阿里技术大咖与4位行业资深实践者将从技术与业务两个方面,与大家探讨大数据如何最快落地到实践。较为有看点的是:


最深入的实践:本次在线峰会上,6个阿里规模的大数据实践将被深入分享,包括大数据平台的性能调优、流式增量计算、持续发布与演进、机器学习平台打造等。同时,在技术分享之外,你还可以与嘉宾进行问答互动,免费的学习机会就在这里!


最真实的应用:技术的价值在于赋能业务,然而真正结合起来并不简单,本次峰会上,地产、医疗、电商、社区等实际场景大数据应用案例将被放出,这里有帮助你打开大数据赋能的钥匙。



技术实践篇


伟林 阿里云资深专家



嘉宾简介:阿里巴巴大数据事业部资深架构师,原微软Cosmos/Scope核心开发人员, 现负责阿里巴巴大数据计算平台总体架构,该平台是阿里巴巴核心计算分析平台,承担阿里内部绝大数计算任务。林伟作为一名分布式系统研究员,在国外一流会议OSDI, SIGMOD, NSDI, VLDB发表多篇论文。是大数据存储,分布式计算,数据查询优化,分布式调度等领域的专家。具有10多年研究和开发经历,分别打造微软和阿里内部大型数万台级别数据中心的计算平台。

演讲议题:MaxCompute 2.0 性能优化揭秘

直播时间:3月9日 14:00-14:40

议题简介:分布式系统性能优化核心,以及基于代价的大数据平台优化器打造。


振禹 阿里云高级专家



嘉宾简介:20年业界经验,在数据与分布式系统的应用与开发方面有丰富的经验。目前负责MaxCompute SQL大数据语言的设计与开发,致力于提高MaxCompute的用户体验。

演讲议题:MaxCompute——大数据语言的新发展

直播时间:3月9日 14:40-15:20

议题简介:MaxCompute是全新一代的ODPS,基于完全自主研发的ODPS2.0 SQL引擎。MaxCompute SQL大数据语言在易用性,兼容性,性能与可扩展性方面取得长足进步。此演讲将向您逐一介绍这些新功能。

听众预计受益:对于MaxCompute的现有用户,能够知道基于ODPS2.0的SQL引擎给大家带来的易用性改进与新功能,提高开发效率,降低维护成本,提高性能。对于潜在用户,能够知道基于ODPS2.0的SQL引擎在兼容性方面的改进,知道如何利用这些特性方便迁移使用MaxCompute,并知道使用MaxCompute在易用性与可扩展性方面的优势。


布民 阿里云高级专家



嘉宾简介:2015年加入阿里巴巴,现为阿里云高级专家、技术委员会成员,及大规模流计算与图计算平台负责人。布民之前在微软亚洲研究院任主管研究员,主要研究兴趣为大规模分布式计算。至今已在相关领域顶级会议(如OSDI,NSDI,EuroSys等)发表多篇论文,曾获得EuroSys 2012的最佳论文奖(亚洲首篇)。多项研究成果已被转化为产品并应用于实际生产。

演讲议题:大规模流式增量计算及其在阿里巴巴的应用

直播时间:3月9日 15:20-16:00

议题简介:实时化是大数据应用及分布式系统设计的重要发展趋势,其中流式数据处理又是核心场景之一。本演讲首先介绍一系列典型场景以及它们带来的商业价值。随后结合阿里巴巴真实场景,谈谈流式计算的技术挑战及系统设计的关键问题。特别的,将介绍独特的增量计算需求,及其与系统其它关键能力(如容错)的设计交互和抽象。最后结合我们过去几年的工作和思考,谈谈对未来流式计算应用及系统发展的展望。

听众预计受益:听众可以了解PAI机器学习平台的模型演进,尤其是阿里在面对大规模分布式机器学习难题的时候的解决思路。

  1. 了解大数据应用实时化趋势下,流式数据处理的典型应用场景和商业价值。

  2. 了解流式数据处理在阿里巴巴真实场景中的应用与技术挑战。

  3. 了解真实场景驱动的系统设计核心问题,及阿里云在服务阿里巴巴集团内外场景中积累的思考和对未来的展望。


九丰 阿里云高级专家



嘉宾简介:九丰,阿里云大数据事业部高级专家,14年加入阿里云,一直从事PAI机器学习平台的建设。

演讲议题:PAI分布式机器学习平台计算模型演进之路

直播时间:3月9日 16:00-16:40

议题简介:随着训练数据规模的持续扩大,模型特征的持续增长,常用的机器学习算法面临着越来越多的挑战。从很多人熟悉的R语言,到基于MPI的多机的计算框架,再到支持超大规模特征的Parameter Server架构,再到如今的深度学习计算框架,机器学习平台上的编程模型也在不断演进,以满足业务上持续的挑战。本次主题主要和大家分享PAI分布式机器学习平台的多种编程模型的演进过程。

听众预计受益:听众可以了解PAI机器学习平台的模型演进,尤其是阿里在面对大规模分布式机器学习难题的时候的解决思路。


朋春 阿里云高级技术专家



嘉宾简介:阿里云高级技术专家,5年以上高吞吐数据传输平台的研发经验,目前是MaxCompute数据通道团队负责人。

演讲议题:MaxCompute数据上云与生态

直播时间:3月9日 16:40-17:20

议题简介:玩大数据的第一件事情是如何将数据上传到MaxCompute。在前台存储多样化的形式下,数据上传存在着多种多样的需求;另一方面,网络质量的好坏又对传输过程中的时效性、吞吐量和容错能力带来了不小的挑战。

本次演讲会从MaxCompute提供的离线、实时数据通道入手,延伸到DTS、Logstash、DataX等官方/开源软件,向大家介绍如何从数据库、本地文件等多种存储向MaxCompute导入数据。除此之外,还会涉及一些在Python和R语言中使用MaxCompute的介绍。

听众预计受益:1、了解如何利用现有工具,快速地向MaxCompute导入数据;2、了解不同网络环境和存储类型下的导入导出工具选择;3、通过示例了解如何在Python和R环境中使用MaxCompute。


无庸 阿里云高级技术专家



嘉宾简介:阿里云大数据计算服务MaxCompute框架负责人、高级技术专家,专注于高可用大规模分布式系统的平台开发。

演讲议题:高可用大数据计算平台如何持续发布和演进

直播时间:3月9日 16:40-17:20

议题简介:大数据服务如何持续发布和演进一直是业界的一个难题。成熟的大数据服务必须具备高可用、高稳定、高安全、高效率等特点,与此同时,为了满足用户不断增长的需求和规模,大数据服务需要不断地完善功能提高性能,两者之间存在着天然的矛盾。本次演讲将会介绍阿里云大数据计算服务MaxCompute在解决这个难题中的一些方案和实践。

听众预计受益:1) 大数据服务新功能在保障数据安全和用户知识产权的前提下高覆盖、高效率的测试方法;2) 大数据服务保证高可用高可靠前提下灰度发布上线的方法。


场景应用篇


许鹏 佰腾科技CTO



演讲议题:专利大数据的云上裂变之路

直播时间:3月9日 14:00-14:40

议题简介:专利大数据的大不在于数据的“多”,而在于数据的“宽”,专利数据每

拓宽一个比特都需要对原始数据进行多次的拆解和分析,传统的计算技术很难满足这种大

规模的数据挖掘需求,而阿里云的数加平台为我们提供了更大的存储、更高的性能、更好

的分析,让我们实现了专利数据的快速裂变。


刘峥 明源云大数据负责人



嘉宾简介:明源云大数据负责人,多年来探索传统行业大数据应用与变现,现在地产垂直领域负责行业大数据管理平台整体规划与建设。

演讲议题:地产大数据趋势与应用实践

直播时间:3月9日 14:40-15:20

议题简介:大数据能够对地产行业的拿地决策、营销、服务等业务带来哪些帮助;明源如何通过阿里云将大数据业务场景落地;明源云大数据管理平台的技术架构


洋 小红唇


个人简介:王洋, 毕业于北京邮电大学计算机科学与技术系,研究生学历。曾在IBM中国研发中心和Polycom中国研发中心从事软件开发及管理工作。2014年作为创始团队加入北京小鱼儿科技有限公司,负责管理云端及移动端APP的开发。2016年加入小红唇网络科技有限公司,全面负责公司的研发管理。精通云服务、移动APP的架构设计与开发,在大数据、实时音视频系统等方面具有丰富的经验。

演讲议题:用大数据打造你的变美频道

直播时间:3月9日 15:20-16:00

议题简介:阿里数加平台完整的大数据技术栈和易用性,使小红唇公司快速建立了自己的数据分析、个性化推荐、机器学习等大数据核心应用。为小红唇不断扩大的业务提供了强有力的数据支撑,使用户获取变美内容和商品变得易如反掌。普通的开发人员通过数加平台迅速转变为数据工程师,而几乎零运维又使得工程师们能够专注于数据,不断使数据产生的收益最大化。


刘立兼 网聚宝首席架构师



个人简介:上海云贝网络科技有限公司首席架构师,数年来一直奋战在电商大数据领域。经历了一个又一个618/1111/1212。对面向大数据的高可用、高性能、易扩展的分布式架构技术有着深刻的理解,特别擅长基于云计算的系统架构。

演讲议题:云上大数据,零售新思维

直播时间:3月9日 16:00-16:40

议题简介:大数据的发展给各行各业都带来了变化。网聚宝基于5年的零售业的数据服务沉淀,结合云上大数据能力,给企业客户带去了更多的可能性。


相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
目录
相关文章
|
18天前
|
运维 监控 持续交付
微服务架构解析:跨越传统架构的技术革命
微服务架构(Microservices Architecture)是一种软件架构风格,它将一个大型的单体应用拆分为多个小而独立的服务,每个服务都可以独立开发、部署和扩展。
147 36
微服务架构解析:跨越传统架构的技术革命
|
4天前
|
存储 SQL 分布式计算
大数据时代的引擎:大数据架构随记
大数据架构通常分为四层:数据采集层、数据存储层、数据计算层和数据应用层。数据采集层负责从各种源采集、清洗和转换数据,常用技术包括Flume、Sqoop和Logstash+Filebeat。数据存储层管理数据的持久性和组织,常用技术有Hadoop HDFS、HBase和Elasticsearch。数据计算层处理大规模数据集,支持离线和在线计算,如Spark SQL、Flink等。数据应用层将结果可视化或提供给第三方应用,常用工具为Tableau、Zeppelin和Superset。
61 8
|
23天前
|
存储 Linux API
深入探索Android系统架构:从内核到应用层的全面解析
本文旨在为读者提供一份详尽的Android系统架构分析,从底层的Linux内核到顶层的应用程序框架。我们将探讨Android系统的模块化设计、各层之间的交互机制以及它们如何共同协作以支持丰富多样的应用生态。通过本篇文章,开发者和爱好者可以更深入理解Android平台的工作原理,从而优化开发流程和提升应用性能。
|
24天前
|
弹性计算 持续交付 API
构建高效后端服务:微服务架构的深度解析与实践
在当今快速发展的软件行业中,构建高效、可扩展且易于维护的后端服务是每个技术团队的追求。本文将深入探讨微服务架构的核心概念、设计原则及其在实际项目中的应用,通过具体案例分析,展示如何利用微服务架构解决传统单体应用面临的挑战,提升系统的灵活性和响应速度。我们将从微服务的拆分策略、通信机制、服务发现、配置管理、以及持续集成/持续部署(CI/CD)等方面进行全面剖析,旨在为读者提供一套实用的微服务实施指南。
|
24天前
|
SQL 数据可视化 数据库
多维度解析低代码:从技术架构到插件生态
本文深入解析低代码平台,从技术架构到插件生态,探讨其在企业数字化转型中的作用。低代码平台通过图形化界面和模块化设计降低开发门槛,加速应用开发与部署,提高市场响应速度。文章重点分析开源低代码平台的优势,如透明架构、兼容性与扩展性、可定制化开发等,并详细介绍了核心技术架构、数据处理与功能模块、插件生态及数据可视化等方面,展示了低代码平台如何支持企业在数字化转型中实现更高灵活性和创新。
47 1
|
24天前
|
SQL 数据可视化 数据库
多维度解析低代码:从技术架构到插件生态
本文深入解析低代码平台,涵盖技术架构、插件生态及应用价值。重点介绍开源低代码平台的优势,如透明架构、兼容性与扩展性、可定制化开发,以及其在数据处理、功能模块、插件生态等方面的技术特点。文章还探讨了低代码平台的安全性、权限管理及未来技术趋势,强调其在企业数字化转型中的重要作用。
36 1
|
4天前
|
存储 负载均衡 监控
揭秘 Elasticsearch 集群架构,解锁大数据处理神器
Elasticsearch 是一个强大的分布式搜索和分析引擎,广泛应用于大数据处理、实时搜索和分析。本文深入探讨了 Elasticsearch 集群的架构和特性,包括高可用性和负载均衡,以及主节点、数据节点、协调节点和 Ingest 节点的角色和功能。
15 0
|
19天前
|
弹性计算 API 持续交付
后端服务架构的微服务化转型
本文旨在探讨后端服务从单体架构向微服务架构转型的过程,分析微服务架构的优势和面临的挑战。文章首先介绍单体架构的局限性,然后详细阐述微服务架构的核心概念及其在现代软件开发中的应用。通过对比两种架构,指出微服务化转型的必要性和实施策略。最后,讨论了微服务架构实施过程中可能遇到的问题及解决方案。
|
28天前
|
Cloud Native Devops 云计算
云计算的未来:云原生架构与微服务的革命####
【10月更文挑战第21天】 随着企业数字化转型的加速,云原生技术正迅速成为IT行业的新宠。本文深入探讨了云原生架构的核心理念、关键技术如容器化和微服务的优势,以及如何通过这些技术实现高效、灵活且可扩展的现代应用开发。我们将揭示云原生如何重塑软件开发流程,提升业务敏捷性,并探索其对企业IT架构的深远影响。 ####
42 3
|
1月前
|
Cloud Native 安全 数据安全/隐私保护
云原生架构下的微服务治理与挑战####
随着云计算技术的飞速发展,云原生架构以其高效、灵活、可扩展的特性成为现代企业IT架构的首选。本文聚焦于云原生环境下的微服务治理问题,探讨其在促进业务敏捷性的同时所面临的挑战及应对策略。通过分析微服务拆分、服务间通信、故障隔离与恢复等关键环节,本文旨在为读者提供一个关于如何在云原生环境中有效实施微服务治理的全面视角,助力企业在数字化转型的道路上稳健前行。 ####

相关产品

  • 云原生大数据计算服务 MaxCompute
  • 推荐镜像

    更多