阿里云 MaxCompute 2023-5~8 月刊

本文涉及的产品
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
简介: 【MaxCompute已发布免费试用计划,为数仓建设提速】新用户可0元领取5000CU*小时计算资源与100GB存储,有效期3个月。

本刊为您带来 2023年5月~8月 MaxCompute 产品最新动态。


1.MaxCompute - 支持PIVOT和UNPIVOT关键字   查看文档  >>

适用客户

数据开发者/数据分析人员/数据仓库管理员等

发布功能

通过PIVOT关键字可以基于聚合将一个或者多个指定值的行转换为列;通过UNPIVOT关键字可以将一个或者多个列转换为行。

2.MaxCompute - 支持通过TABLESAMPLE对表数据进行采样   查看文档  >>

适用客户

数据开发人员/数据分析人员/数据管理人员等

发布功能

MaxCompute支持通过TABLESAMPLE功能来对表数据进行采样,包含三种采样方式:分桶采样、指定采样百分比采样和随机返回指定记录数采样。

3.MaxCompute - 支持使用QUALIFY过滤窗口函数的结果    查看文档  >>

适用客户

数据开发人员/数据分析人员/数据管理人员等

发布功能

MaxCompute支持使用QUALIFY过滤窗口函数的结果,QUALIFY语法过滤窗口函数结果数据的功能类似于HAVING语法过滤经过聚合函数和分组后的数据功能,并简化了用户SQL代码。

4.MaxCompute - SQL提供内建加密函数和解密函数    查看文档  >>

适用客户

数据开发人员/数据分析人员/数据管理人员等

发布功能

MaxCompute SQL提供了加密函数和解密函数,您可以根据实际需要选择合适的函数,对指定列进行随机性加密或解密

5.MaxCompute - 物化视图支持定时刷新数据    查看文档  >>

适用客户

数据开发人员/数据分析人员/数据管理人员等

发布功能

物化视图支持指定刷新周期方式和CRON方式刷新数据,让物化视图能保持更新鲜的数据供用户使用。

6.MaxCompute - 新增多个内建函数    查看文档  >>

适用客户

数据开发人员/数据分析人员/数据管理人员等

发布功能

MaxCompute新增3个数学函数(ISNAN,ATAN2,POSITIVE和NEGATIVE),3个时间日期相关函数(DAYOFWEEK,DAYOFYEAR和CURRENT_TIMEZONE)和1个字符串函数(INITCAP)。

7. MaxCompute - 支持将数据带表头写入OSS的CSV文件    查看文档  >>

适用客户

数据开发人员/数据分析人员/数据管理人员等

发布功能

MaxCompute支持将数据写入OSS的CSV文件中时,指定第一行为表头,方便用户在OSS里直接读取到表Schema信息。

8.MaxCompute - 支持TableStore外表指定PutRow方式写入    查看文档  >>

适用客户

数据开发人员/数据分析人员/数据管理人员等

发布功能

MaxCompute支持Tablestore外表在往Tablestore里写数据时指定用PutRow方式写入。

9. MaxCompute - 包年包月二级配额(Quota)调度策略管理功能发布    查看文档  >>

适用客户

大数据开发管理人员

发布功能

通过在MaxCompute新版控制台配额(Quota)管理中查看与设置包年包月二级Quota调度策略,可以实现对有限的包年包月计算资源的合理分配,优化作业运行体验,提升数据开发效率。您需要根据业务场景选择合适的调度策略,一般情况下,人机交互场景和多基线依赖场景更适合使用FAIR(公平调度)策略,以便同时运行多个作业;整体任务场景更适合使用FIFO(先进先出)策略,有较大概率缩短单个作业平均运行时长。但需注意,本功能暂不支持对类型为交互式的二级Quota设置调度策略。

10.MaxCompute - 计算资源优化推荐功能发布    查看文档  >>

适用客户

大数据开发与运维人员

发布功能

计算资源优化推荐功能基于您包年包月一级Quota近30天的作业请求数据,模拟出以天为单位的作业请求预测分布,依据您设定的作业产出期望,评估资源使用现状,生成并推荐更优的计算资源配置方案,以进一步提升计算资源利用率,优化计算成本。

11.MaxCompute - 新增7个内建复杂类型函数    查看文档  >>

适用客户

数据开发者/数据分析人员/数据仓库管理员等

发布功能

新增7个复杂类型函数,方便用户在SQL计算过程中使用,提高开放效率: REVERSE / MULTIMAP_ FROM_ENTRIES / SHUFFLE / FLATTEN / SEQUENCE / ARRAY_NORMALIZE / NGRAMS / COMBINATIONS

12.MaxCompute - 新增Transaction Table2.0表类型    查看文档  >>

适用客户

数据开发者/数据分析人员/数据仓库管理员等

发布功能

推出Transaction Table2.0功能,对Transaction Table进行全面升级,Transaction Table2.0支持设置主键,可分钟级高并发对表进行upsert/delete写入操作,同时支持Time-Travel功能以及增量查询功能,并满足读写快照隔离

13.MaxCompute - 新增列数据清空功能    查看文档  >>

适用客户

数据开发者/数据分析人员/数据仓库管理员等

发布功能

推出列数据清空功能,用户可以手动清空不需要的表或者分区中列的值,减少存储量,降低成本

14.MaxCompute - 增强数据写入时Zorder功能    查看文档  >>

适用客户

数据开发者/数据分析人员/数据仓库管理员等

发布功能

新增表或者分区数据在写入时全局排序,在数据计算过程中可以更精准的过滤不需要的数据,提高计算性能,减少资源使用

15. MaxCompute - 新增Json数据类型    查看文档  >>

适用客户

数据开发者/数据分析人员/数据仓库管理员等

发布功能

推出Json数据类型,在插入Json数据时,由MaxCompute自动进行优化,以列存提高json数据的压缩比,同时提高查询分析性能。

16. MaxCompute - 按量付费闲时版发布    查看文档  >>

适用客户

数据开发者/数据分析人员/数据仓库管理员等

版本/规格功能

MaxCompute按量付费闲时版是一种按量付费计算资源规格类型,开通后意味着您可以使用MaxCompute闲时计算资源(SpotQuota),它是一种共享型按量付费计算资源。高性价比:通过闲时计算资源运行的作业(SpotJob),相对于标准版作业具有更低的单价,至高可节省约66%的计算成本。适用特定场景:按量付费闲时版适用于敏感性较低的作业,例如用户行为日志、系统日志等低价值、海量数据的分析场景。

17. MaxCompute - 租户级别Information Schema    查看文档  >>

适用客户

数据开发人员和管理人员

发布功能

租户级别Information Schema从租户角度提供项目元及使用历史等元数据信息。与原来的项目级别Information Schema相比,通过租户级别元数据,您可以一次性拉取您同一个元数据中心下某类对象的所有元数据,无需分别进入每一个Project进行查询获取,提升您的查询效率。比如您需要统计您所属云账号下所有项目的表大小,您可以直接从tables和partitions两个视图即可统计到所有项目的表。同时新增的catalog视图支持查看同一个元数据中心下所有project的基础信息和基本属性。

18.MaxCompute - 控制台成本分析功能发布    查看文档  >>

适用客户

大数据管理或运维人员

发布功能

MaxCompute 控制台-成本分析功能可以方便您对按量计费的账单进行分析,从费用出发下钻到用量明细,功能以各类报表形式为关注费用的管理人员提供更便捷的费用分析能力。如发生费用突增,您可以通过费用分析快速定位具体账期、实例、计费项,再结合用量分析定位是作业量突增导致还是作业消耗量突增(具体到作业明细)导致,无需用老的方式下载用量明细自行统计分析。


近期产品月刊回顾

阿里云 MaxCompute 2023-1~4月刊

阿里云 MaxCompute 2022-12月刊

阿里云 MaxCompute 2022-10月11月刊 >>

阿里云 MaxCompute 2022-9月刊 >>

阿里云 MaxCompute 2022-8月刊 >>

阿里云 MaxCompute 2022-7月刊 >>

阿里云 MaxCompute 2022-6月刊 >>

阿里云 MaxCompute 2022-4月5月刊合集 >>

阿里云 MaxCompute 2022-03 月刊 >>

阿里云 MaxCompute 2022-1月2月刊合集 >>

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
目录
相关文章
|
7天前
|
SQL DataWorks 数据可视化
阿里云DataWorks评测:大数据开发治理平台的卓越表现
阿里云DataWorks是一款集数据集成、开发、分析与管理于一体的大数据平台,支持多种数据源无缝整合,提供可视化ETL工具和灵活的任务调度机制。其内置的安全体系和丰富的插件生态,确保了数据处理的高效性和安全性。通过实际测试,DataWorks展现了强大的计算能力和稳定性,适用于中小企业快速搭建稳定高效的BI系统。未来,DataWorks将继续优化功能,降低使用门槛,并推出更多灵活的定价方案,助力企业实现数据价值最大化。
|
7天前
|
分布式计算 大数据 数据处理
技术评测:MaxCompute MaxFrame——阿里云自研分布式计算框架的Python编程接口
随着大数据和人工智能技术的发展,数据处理的需求日益增长。阿里云推出的MaxCompute MaxFrame(简称“MaxFrame”)是一个专为Python开发者设计的分布式计算框架,它不仅支持Python编程接口,还能直接利用MaxCompute的云原生大数据计算资源和服务。本文将通过一系列最佳实践测评,探讨MaxFrame在分布式Pandas处理以及大语言模型数据处理场景中的表现,并分析其在实际工作中的应用潜力。
32 2
|
1月前
|
存储 分布式计算 大数据
【赵渝强老师】阿里云大数据生态圈体系
阿里云大数据计算服务MaxCompute(原ODPS)提供大规模数据存储与计算,支持离线批处理。针对实时计算需求,阿里云推出Flink版。此外,阿里云还提供数据存储服务如OSS、Table Store、RDS和DRDS,以及数据分析平台DataWorks、Quick BI和机器学习平台PAI,构建全面的大数据生态系统。
73 18
|
2天前
|
SQL 存储 分布式计算
阿里云 Paimon + MaxCompute 极速体验
Paimon 和 MaxCompute 的对接经历了长期优化,解决了以往性能不足的问题。通过半年紧密合作,双方团队专门提升了 Paimon 在 MaxCompute 上的读写性能。主要改进包括:采用 Arrow 接口减少数据转换开销,内置 Paimon SDK 提升启动速度,实现原生读写能力,减少中间拷贝与转换,显著降低 CPU 开销与延迟。经过双十一实战验证,Paimon 表的读写速度已接近 MaxCompute 内表,远超传统外表。欢迎体验!
|
1月前
|
分布式计算 Java 开发工具
阿里云MaxCompute-XGBoost on Spark 极限梯度提升算法的分布式训练与模型持久化oss的实现与代码浅析
本文介绍了XGBoost在MaxCompute+OSS架构下模型持久化遇到的问题及其解决方案。首先简要介绍了XGBoost的特点和应用场景,随后详细描述了客户在将XGBoost on Spark任务从HDFS迁移到OSS时遇到的异常情况。通过分析异常堆栈和源代码,发现使用的`nativeBooster.saveModel`方法不支持OSS路径,而使用`write.overwrite().save`方法则能成功保存模型。最后提供了完整的Scala代码示例、Maven配置和提交命令,帮助用户顺利迁移模型存储路径。
|
3月前
|
人工智能 分布式计算 DataWorks
连续四年!阿里云领跑中国公有云大数据平台
近日,国际数据公司(IDC)发布《中国大数据平台市场份额,2023:数智融合时代的真正到来》报告——2023年中国大数据平台公有云服务市场规模达72.2亿元人民币,其中阿里巴巴市场份额保持领先,占比达40.2%,连续四年排名第一。
263 12
|
3月前
|
人工智能 Cloud Native 数据管理
重磅升级,阿里云发布首个“Data+AI”驱动的一站式多模数据平台
阿里云发布首个AI多模数据管理平台DMS,助力业务决策提效10倍
507 17
|
3月前
|
SQL 人工智能 大数据
阿里云牵头起草!首个大数据批流融合国家标准发布
近日,国家市场监督管理总局、国家标准化管理委员会正式发布大数据领域首个批流融合国家标准GB/T 44216-2024《信息技术 大数据 批流融合计算技术要求》,该标准由阿里云牵头起草,并将于2025年2月1日起正式实施。
107 7
|
3月前
|
SQL 人工智能 大数据
首个大数据批流融合国家标准正式发布,阿里云为牵头起草单位!
近日,国家市场监督管理总局、国家标准化管理委员会正式发布大数据领域首个批流融合国家标准 GB/T 44216-2024《信息技术 大数据 批流融合计算技术要求》,该标准由阿里云牵头起草,并将于2025年2月1日起正式实施。
|
3月前
|
存储 SQL 分布式计算
Java连接阿里云MaxCompute例
要使用Java连接阿里云MaxCompute数据库,首先需在项目中添加MaxCompute JDBC驱动依赖,推荐通过Maven管理。避免在代码中直接写入AccessKey,应使用环境变量或配置文件安全存储。示例代码展示了如何注册驱动、建立连接及执行SQL查询。建议使用RAM用户提升安全性,并根据需要配置时区和公网访问权限。具体步骤和注意事项请参考阿里云官方文档。
406 10

相关产品

  • 云原生大数据计算服务 MaxCompute