阿里云 MaxCompute 2021-8 月刊

本文涉及的产品
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
简介: 8月MaxCompute最新发布多项新功能,包括MaxCompute SQL 支持物化视图;流式数据通道服务功能商业化发布;SQL UPDATE、DELETE和MERGE INTO功能商业化发布;支持读取 OSS 上 Hudi、Delta Lake 格式文件;支持访问开启 Kerberos 认证授权机制的 Hadoop 集群。

本期月刊将为您带来 MaxCompute 8月产品最新动态。


导读

  • 8月产品发布最新动态
  • 8月技术直播回顾
  • 9月技术直播预告


8月产品发布最新动态


1、MaxCompute SQL 支持物化视图查案文档 >>


适用客户

开发者、分析师、可以通过空间换时间的预计算方式提升查询效率的用户。


发布功能

MaxCompute SQL推出物化视图(Materialized View)功能。物化视图本质是一种预计算,即把某些耗时的操作(例如JOIN、AGGREGATE)的结果保存下来,以便在查询时直接复用,从而避免这些耗时的操作,最终达到加速查询的目的。

物化视图适用于如下场景:模式固定、且执行频次高的查询。查询包含非常耗时的操作,比如聚合、连接操作等。


创建了物化视图后,执行查询操作时,MaxCompute SQL查询改写能力会自动匹配到最优物化视图,并直接从物化视图中读取数据,从而大大提高查询效率,您不需要修改已有查询,例如改为从物化视图查询数据。


当前物化视图只支持手工更新或DataWorks调度更新,后续会进一步提供周期、自动更新,增量更新,外表支持等能力。


2、MaxCompute流式数据通道服务功能商业化发布查案文档 >>


适用客户

有流计算Blink、数据通道DataHub、数据传输服务DTS、消息服务kafka、实时数据同步等场景的企业、机构。


发布功能

MaxCompute流式数据通道服务,支持API及插件方式实现流式数据无感知高QPS写入MaxCompute。

MaxCompute流式数据通道服务提供流式语义API支持,简化分布式服务开发操作。 支持分布式服务并发创建分区, 支持数据异步zorder by排序功能。


3、MaxCompute SQL UPDATE、DELETE和MERGE INTO功能商业化发布查案文档 >>


自2021年8月10日起,中国公共云MaxCompute SQL UPDATE、DELETE和MERGE INTO功能商业化。


产品介绍

自2021年8月10日起,MaxCompute SQL的UPDATE、DELETE和MERGE INTO功能结束免费公测,开始正式计费。

已经使用UPDATE、DELETE和MERGE INTO功能的按量计费作业,届时会产生计算费用。如果您之前因为担心公测稳定性问题而暂未使用UPDATE、DELETE和MERGE INTO功能,届时可以放心使用。MaxCompute为UPDATE、DELETE和MERGE INTO功能的相关可用性、稳定性等提供与MaxCompute SQL能力同等的保障。


价格调整内容

公测期间按量计费模式中包含UPDATE、DELETE和MERGE INTO关键字的SQL语句不计费。

商业化后SQL作业计费规则如下:

  • 如果MaxCompute项目的计费模式为包年包月,SQL计算费用不单独收费。
  • 如果MaxCompute项目的计费模式为按量计费,SQL计算费用计算规则调整为:单条SQL计算费用=计算输入数据量×SQL复杂度×单价(0.3元/GB)。其中:SQL复杂度通过SQL关键字个数折算。SQL关键字个数=JOIN个数+GROUP BY个数+ORDER BY个数+DISTINCT个数+窗口函数个数+MAX(INSERT个数|UPDATE个数|DELETE个数-1, 1)。


4、MaxCompute 支持读取 OSS 上 Hudi、Delta Lake 格式文件查案文档 >>


适用客户

基于OSS 构建实时数据湖的客户,可以通过 MaxCompute 查询到实时数据,即时洞察业务数据变化。


发布功能

Delta Lake 和 Hudi是数据湖方案中常用的存储机制,为数据湖提供流处理、批处理能力。MaxCompute 基于阿里云 DLF、OSS产品提供了支持 Delta 或 Hudi 存储机制的湖仓一体架构。您可以通过 MaxCompute 查询到实时数据,即时洞察业务数据变化。


5、MaxCompute 支持访问开启 Kerberos 认证授权机制的 Hadoop 集群


适用客户

  • 已经基于 Hadoop、阿里云 EMR 集群搭建数据平台,并开启 Kerberos 认证授权机制的客户;
  • 对集群资源弹性有需求,希望利用 MaxCompute 的弹性与大规模机器学习能力,快速迭代创新业务的客户;
  • 企业有多个 Hadoop 集群,需要各个集群之间数据打通,利用 DataWorks 构建企业数据中台的客户。


发布功能

大部分企业的 Hadoop 的生产集群开启了 Kerberos 认证授权机制,本次功能升级能够利用 MaxCompute 访问开启 Kerberos 认证授权机制的 Hadoop 集群,极大的扩展了湖仓一体对接 Hadoop 的适用范围。


8月技术直播回顾


2021阿里巴巴大数据技术公开课第二季 — SaaS模式云数据仓库MaxCompute应用场景实践


「 第一讲 」基于MaxCompute的智能推荐解决方案   直播回放 >>  阅读文字版 >>

「 第二讲 」基于MaxCompute+开放搜索的电商、零售行业搜索开发实践   直播回放 >>  阅读文字版 >>

「 第三讲 」基于MaxCompute+PAI的用户增长方案实践   直播回放 >>  阅读文字版 >>

「 第四讲 」基于MaxCompute的实时数据处理实践   直播回放 >>  阅读文字版 >>


9月技术直播预告


2021阿里巴巴大数据技术公开课第二季 — SaaS模式云数据仓库MaxCompute应用场景实践


「 第五讲 」基于MaxCompute分布式Python能力的大规模数据科学分析   9月8日 17:00-17:30

「 第六讲 」基于MaxCompute +Hologres 的人群圈选和数据服务实践   9月15日 17:00-17:30

「 第七讲 」基于 MaxCompute SQL 的半结构化数据处理实践   9月22日 17:00-17:30

「 第八讲 」基于Delta lake、Hudi格式的湖仓一体方案   9月24日 17:00-17:30

 扫描下方二维码加入钉群观看直播


有二维码.png

MaxCompute 二维码拼图-第 4 页.png

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
目录
相关文章
|
20天前
|
SQL 分布式计算 数据挖掘
阿里云 MaxCompute MaxQA 开启公测,公测可申请 100CU 计算资源解锁近实时高效查询体验
阿里云云原生大数据计算服务 MaxCompute 推出 MaxQA(原 MCQA2.0)查询加速功能,在独享的查询加速资源池的基础上,对管控链路、查询优化器、执行引擎、存储引擎以及缓存机制等多个环节进行全面优化,显著减少了查询响应时间,适用于 BI 场景、交互式分析以及近实时数仓等对延迟要求高且稳定的场景。现正式开启公测,公测期间可申请100CU(价值15000元)计算资源用于测试,欢迎广大开发者及企业用户参与,解锁高效查询体验!
阿里云 MaxCompute MaxQA 开启公测,公测可申请 100CU 计算资源解锁近实时高效查询体验
|
12天前
|
人工智能 大数据
阿里云云计算ACA、大数据ACA、人工智能ACA三门认证升级调整公告
阿里云云计算ACA、大数据ACA、人工智能ACA三门认证升级调整公告
|
13天前
|
存储 分布式计算 大数据
基于阿里云大数据平台的实时数据湖构建与数据分析实战
在大数据时代,数据湖作为集中存储和处理海量数据的架构,成为企业数据管理的核心。阿里云提供包括MaxCompute、DataWorks、E-MapReduce等在内的完整大数据平台,支持从数据采集、存储、处理到分析的全流程。本文通过电商平台案例,展示如何基于阿里云构建实时数据湖,实现数据价值挖掘。平台优势包括全托管服务、高扩展性、丰富的生态集成和强大的数据分析工具。
|
9天前
|
存储 分布式计算 运维
课时6:阿里云MaxCompute:轻松玩转大数据
阿里云MaxCompute是全新的大数据计算服务,提供快速、完全托管的PB级数据仓库解决方案。它拥有高效的压缩存储技术、强大的计算能力和丰富的用户接口,支持SQL查询、机器学习等高级分析。MaxCompute兼容多种计算模型,开箱即用,具备金融级安全性和灵活的数据授权功能,帮助企业节省成本并提升效率。
|
12天前
|
存储 人工智能 数据管理
媒体声音|专访阿里云数据库周文超博士:AI就绪的智能数据平台设计思路
媒体声音|专访阿里云数据库周文超博士:AI就绪的智能数据平台设计思路
|
12天前
|
SQL 人工智能 大数据
【4月重点功能发布】阿里云大数据+ AI 一体化平台
【4月重点功能发布】阿里云大数据+ AI 一体化平台
|
12天前
|
SQL 人工智能 分布式计算
【3月重点功能发布】阿里云大数据+ AI 一体化平台
【3月重点功能发布】阿里云大数据+ AI 一体化平台
|
2月前
|
SQL 数据可视化 大数据
从数据小白到大数据达人:一步步成为数据分析专家
从数据小白到大数据达人:一步步成为数据分析专家
255 92
|
4月前
|
存储 分布式计算 数据挖掘
数据架构 ODPS 是什么?
数据架构 ODPS 是什么?
961 7
|
10天前
|
SQL 分布式计算 数据挖掘
从湖仓分离到湖仓一体,四川航空基于 SelectDB 的多源数据联邦分析实践
川航选择引入 SelectDB 建设湖仓一体大数据分析引擎,取得了数据导入效率提升 3-6 倍,查询分析性能提升 10-18 倍、实时性提升至 5 秒内等收益。
从湖仓分离到湖仓一体,四川航空基于 SelectDB 的多源数据联邦分析实践

相关产品

  • 云原生大数据计算服务 MaxCompute