阿里云 MaxCompute 2023-5~8 月刊

简介: 【MaxCompute已发布免费试用计划,为数仓建设提速】新用户可0元领取5000CU*小时计算资源与100GB存储,有效期3个月。

本刊为您带来 2023年5月~8月 MaxCompute 产品最新动态。


1.MaxCompute - 支持PIVOT和UNPIVOT关键字   查看文档  >>

适用客户

数据开发者/数据分析人员/数据仓库管理员等

发布功能

通过PIVOT关键字可以基于聚合将一个或者多个指定值的行转换为列;通过UNPIVOT关键字可以将一个或者多个列转换为行。

2.MaxCompute - 支持通过TABLESAMPLE对表数据进行采样   查看文档  >>

适用客户

数据开发人员/数据分析人员/数据管理人员等

发布功能

MaxCompute支持通过TABLESAMPLE功能来对表数据进行采样,包含三种采样方式:分桶采样、指定采样百分比采样和随机返回指定记录数采样。

3.MaxCompute - 支持使用QUALIFY过滤窗口函数的结果    查看文档  >>

适用客户

数据开发人员/数据分析人员/数据管理人员等

发布功能

MaxCompute支持使用QUALIFY过滤窗口函数的结果,QUALIFY语法过滤窗口函数结果数据的功能类似于HAVING语法过滤经过聚合函数和分组后的数据功能,并简化了用户SQL代码。

4.MaxCompute - SQL提供内建加密函数和解密函数    查看文档  >>

适用客户

数据开发人员/数据分析人员/数据管理人员等

发布功能

MaxCompute SQL提供了加密函数和解密函数,您可以根据实际需要选择合适的函数,对指定列进行随机性加密或解密

5.MaxCompute - 物化视图支持定时刷新数据    查看文档  >>

适用客户

数据开发人员/数据分析人员/数据管理人员等

发布功能

物化视图支持指定刷新周期方式和CRON方式刷新数据,让物化视图能保持更新鲜的数据供用户使用。

6.MaxCompute - 新增多个内建函数    查看文档  >>

适用客户

数据开发人员/数据分析人员/数据管理人员等

发布功能

MaxCompute新增3个数学函数(ISNAN,ATAN2,POSITIVE和NEGATIVE),3个时间日期相关函数(DAYOFWEEK,DAYOFYEAR和CURRENT_TIMEZONE)和1个字符串函数(INITCAP)。

7. MaxCompute - 支持将数据带表头写入OSS的CSV文件    查看文档  >>

适用客户

数据开发人员/数据分析人员/数据管理人员等

发布功能

MaxCompute支持将数据写入OSS的CSV文件中时,指定第一行为表头,方便用户在OSS里直接读取到表Schema信息。

8.MaxCompute - 支持TableStore外表指定PutRow方式写入    查看文档  >>

适用客户

数据开发人员/数据分析人员/数据管理人员等

发布功能

MaxCompute支持Tablestore外表在往Tablestore里写数据时指定用PutRow方式写入。

9. MaxCompute - 包年包月二级配额(Quota)调度策略管理功能发布    查看文档  >>

适用客户

大数据开发管理人员

发布功能

通过在MaxCompute新版控制台配额(Quota)管理中查看与设置包年包月二级Quota调度策略,可以实现对有限的包年包月计算资源的合理分配,优化作业运行体验,提升数据开发效率。您需要根据业务场景选择合适的调度策略,一般情况下,人机交互场景和多基线依赖场景更适合使用FAIR(公平调度)策略,以便同时运行多个作业;整体任务场景更适合使用FIFO(先进先出)策略,有较大概率缩短单个作业平均运行时长。但需注意,本功能暂不支持对类型为交互式的二级Quota设置调度策略。

10.MaxCompute - 计算资源优化推荐功能发布    查看文档  >>

适用客户

大数据开发与运维人员

发布功能

计算资源优化推荐功能基于您包年包月一级Quota近30天的作业请求数据,模拟出以天为单位的作业请求预测分布,依据您设定的作业产出期望,评估资源使用现状,生成并推荐更优的计算资源配置方案,以进一步提升计算资源利用率,优化计算成本。

11.MaxCompute - 新增7个内建复杂类型函数    查看文档  >>

适用客户

数据开发者/数据分析人员/数据仓库管理员等

发布功能

新增7个复杂类型函数,方便用户在SQL计算过程中使用,提高开放效率: REVERSE / MULTIMAP_ FROM_ENTRIES / SHUFFLE / FLATTEN / SEQUENCE / ARRAY_NORMALIZE / NGRAMS / COMBINATIONS

12.MaxCompute - 新增Transaction Table2.0表类型    查看文档  >>

适用客户

数据开发者/数据分析人员/数据仓库管理员等

发布功能

推出Transaction Table2.0功能,对Transaction Table进行全面升级,Transaction Table2.0支持设置主键,可分钟级高并发对表进行upsert/delete写入操作,同时支持Time-Travel功能以及增量查询功能,并满足读写快照隔离

13.MaxCompute - 新增列数据清空功能    查看文档  >>

适用客户

数据开发者/数据分析人员/数据仓库管理员等

发布功能

推出列数据清空功能,用户可以手动清空不需要的表或者分区中列的值,减少存储量,降低成本

14.MaxCompute - 增强数据写入时Zorder功能    查看文档  >>

适用客户

数据开发者/数据分析人员/数据仓库管理员等

发布功能

新增表或者分区数据在写入时全局排序,在数据计算过程中可以更精准的过滤不需要的数据,提高计算性能,减少资源使用

15. MaxCompute - 新增Json数据类型    查看文档  >>

适用客户

数据开发者/数据分析人员/数据仓库管理员等

发布功能

推出Json数据类型,在插入Json数据时,由MaxCompute自动进行优化,以列存提高json数据的压缩比,同时提高查询分析性能。

16. MaxCompute - 按量付费闲时版发布    查看文档  >>

适用客户

数据开发者/数据分析人员/数据仓库管理员等

版本/规格功能

MaxCompute按量付费闲时版是一种按量付费计算资源规格类型,开通后意味着您可以使用MaxCompute闲时计算资源(SpotQuota),它是一种共享型按量付费计算资源。高性价比:通过闲时计算资源运行的作业(SpotJob),相对于标准版作业具有更低的单价,至高可节省约66%的计算成本。适用特定场景:按量付费闲时版适用于敏感性较低的作业,例如用户行为日志、系统日志等低价值、海量数据的分析场景。

17. MaxCompute - 租户级别Information Schema    查看文档  >>

适用客户

数据开发人员和管理人员

发布功能

租户级别Information Schema从租户角度提供项目元及使用历史等元数据信息。与原来的项目级别Information Schema相比,通过租户级别元数据,您可以一次性拉取您同一个元数据中心下某类对象的所有元数据,无需分别进入每一个Project进行查询获取,提升您的查询效率。比如您需要统计您所属云账号下所有项目的表大小,您可以直接从tables和partitions两个视图即可统计到所有项目的表。同时新增的catalog视图支持查看同一个元数据中心下所有project的基础信息和基本属性。

18.MaxCompute - 控制台成本分析功能发布    查看文档  >>

适用客户

大数据管理或运维人员

发布功能

MaxCompute 控制台-成本分析功能可以方便您对按量计费的账单进行分析,从费用出发下钻到用量明细,功能以各类报表形式为关注费用的管理人员提供更便捷的费用分析能力。如发生费用突增,您可以通过费用分析快速定位具体账期、实例、计费项,再结合用量分析定位是作业量突增导致还是作业消耗量突增(具体到作业明细)导致,无需用老的方式下载用量明细自行统计分析。


近期产品月刊回顾

阿里云 MaxCompute 2023-1~4月刊

阿里云 MaxCompute 2022-12月刊

阿里云 MaxCompute 2022-10月11月刊 >>

阿里云 MaxCompute 2022-9月刊 >>

阿里云 MaxCompute 2022-8月刊 >>

阿里云 MaxCompute 2022-7月刊 >>

阿里云 MaxCompute 2022-6月刊 >>

阿里云 MaxCompute 2022-4月5月刊合集 >>

阿里云 MaxCompute 2022-03 月刊 >>

阿里云 MaxCompute 2022-1月2月刊合集 >>

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
目录
相关文章
|
13天前
|
分布式计算 大数据 BI
MaxCompute产品使用合集之MaxCompute项目的数据是否可以被接入到阿里云的Quick BI中
MaxCompute作为一款全面的大数据处理平台,广泛应用于各类大数据分析、数据挖掘、BI及机器学习场景。掌握其核心功能、熟练操作流程、遵循最佳实践,可以帮助用户高效、安全地管理和利用海量数据。以下是一个关于MaxCompute产品使用的合集,涵盖了其核心功能、应用场景、操作流程以及最佳实践等内容。
|
13天前
|
分布式计算 大数据 MaxCompute
MaxCompute产品使用合集之使用pyodps读取OSS(阿里云对象存储)中的文件的步骤是什么
MaxCompute作为一款全面的大数据处理平台,广泛应用于各类大数据分析、数据挖掘、BI及机器学习场景。掌握其核心功能、熟练操作流程、遵循最佳实践,可以帮助用户高效、安全地管理和利用海量数据。以下是一个关于MaxCompute产品使用的合集,涵盖了其核心功能、应用场景、操作流程以及最佳实践等内容。
|
2天前
|
存储 分布式计算 DataWorks
【阿里云云原生专栏】云原生下的数据湖建设:阿里云MaxCompute与DataWorks解决方案
【5月更文挑战第26天】在数字化时代,数据成为企业创新的关键。阿里云MaxCompute和DataWorks提供了一种构建高效、可扩展数据湖的解决方案。数据湖允许存储和分析大量多格式数据,具备高灵活性和扩展性。MaxCompute是PB级数据仓库服务,擅长结构化数据处理;DataWorks则是一站式大数据协同平台,支持数据集成、ETL和治理。通过DataWorks收集数据,MaxCompute存储和处理,企业可以实现高效的数据分析和挖掘,从而提升业务洞察和竞争力。
23 0
|
5天前
|
存储 弹性计算 大数据
【阿里云弹性计算】阿里云ECS在大数据处理中的应用:高效存储与计算实践
【5月更文挑战第23天】阿里云ECS在大数据处理中发挥关键作用,提供多样化实例规格适应不同需求,尤其大数据型实例适合离线计算。通过集成分布式文件系统如OSS,实现大规模存储,而本地存储优化提升I/O性能。弹性扩容和计算优化实例确保高效运行,案例显示使用ECS能提升处理速度并降低成本。结合阿里云服务,ECS构建起强大的数据处理生态,推动企业创新和数字化转型。
23 0
|
9天前
|
SQL 分布式计算 数据挖掘
阿里云MaxCompute携手华大基因打造精准医疗应用云平台,十万基因组计算成本降低至1000美金以内
华大基因是中国最领先的基因科技公司,华大基因为消除人类病痛、经济危机、国家灾难、濒危动物保护、缩小贫富差距等方面提供分子遗传层面的技术支持。让我们结合maxcompute的技术特点,看看如何助力华大基因。
821 9
|
13天前
|
分布式计算 DataWorks Java
DataWorks产品使用合集之阿里云DataWorks专有云环境下,上传MaxCompute的UDF(用户自定义函数)的JAR包的步骤如何解决
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
27 0
|
13天前
|
SQL 分布式计算 DataWorks
MaxCompute产品使用合集之阿里云MaxCompute对SQL语句的长度的长度限制是多少
MaxCompute作为一款全面的大数据处理平台,广泛应用于各类大数据分析、数据挖掘、BI及机器学习场景。掌握其核心功能、熟练操作流程、遵循最佳实践,可以帮助用户高效、安全地管理和利用海量数据。以下是一个关于MaxCompute产品使用的合集,涵盖了其核心功能、应用场景、操作流程以及最佳实践等内容。
|
13天前
|
SQL 分布式计算 大数据
MaxCompute产品使用合集之怎样可以将大数据计算MaxCompute表的数据可以导出为本地文件
MaxCompute作为一款全面的大数据处理平台,广泛应用于各类大数据分析、数据挖掘、BI及机器学习场景。掌握其核心功能、熟练操作流程、遵循最佳实践,可以帮助用户高效、安全地管理和利用海量数据。以下是一个关于MaxCompute产品使用的合集,涵盖了其核心功能、应用场景、操作流程以及最佳实践等内容。
|
13天前
|
分布式计算 DataWorks 关系型数据库
MaxCompute产品使用合集之可以使用什么方法将MySQL的数据实时同步到MaxCompute
MaxCompute作为一款全面的大数据处理平台,广泛应用于各类大数据分析、数据挖掘、BI及机器学习场景。掌握其核心功能、熟练操作流程、遵循最佳实践,可以帮助用户高效、安全地管理和利用海量数据。以下是一个关于MaxCompute产品使用的合集,涵盖了其核心功能、应用场景、操作流程以及最佳实践等内容。
|
13天前
|
分布式计算 DataWorks 数据库
DataWorks操作报错合集之DataWorks使用数据集成整库全增量同步oceanbase数据到odps的时候,遇到报错,该怎么处理
DataWorks是阿里云提供的一站式大数据开发与治理平台,支持数据集成、数据开发、数据服务、数据质量管理、数据安全管理等全流程数据处理。在使用DataWorks过程中,可能会遇到各种操作报错。以下是一些常见的报错情况及其可能的原因和解决方法。
27 0

相关产品

  • 云原生大数据计算服务 MaxCompute