MaxCompute(原ODPS)开发入门指南——计量计费篇

简介: 近期介绍大量数据上云用户关于MaxCompute的一些问题,现就MaxCompute产品线的一些工具栈可以和大家进行交流,也欢迎大家拍砖和来扰,一起学习一起进步!也希望能够在帮助到大家!

MaxCompute(原ODPS)开发入门指南

写在最前面

>>>进入了解更多>>>阿里云数加·MaxCompute大数据计算服务.

近期介绍大量数据上云用户关于MaxCompute的一些问题,现就MaxCompute产品线的一些工具栈可以和大家进行交流,也欢迎大家拍砖和来扰,一起学习一起进步!也希望能够在帮助到大家!

SQL Cost

系列文章会涉及到的内容

  • 0.MaxCompute概述:是什么?可以做什么?收费模式?
  • 1.数据上云工具介绍:Log、Logstash、Flume、Fluentd、DataX等
  • 2.MaxCompute开发工具:Data IDE和MaxCompute Studio
  • 3.数据分析展现工具概述:Quick BI

MaxCompute概述

MaxCompute(原ODPS)是一项大数据计算服务,它能提供快速、完全托管的PB级数据仓库解决方案,使您可以经济并高效的分析处理海量数据。

MaxCompute是什么

MaxCompute 是面向大数据处理的云计算服务,主要提供结构化和非结构化数据的存储和计算服务,
是阿里巴巴云计算整体解决方案中最核心的主力产品之一。

在分析海量数据场景下,由于单台服务器的处理能力限制,数据分析者通常采用分布式计算模式。但分布式的计算模型对数据分析人员提出了较高的要求,且不易维护。使用分布式模型,数据分析人员不仅需要了解业务需求,同时还需要熟悉底层计算模型。MaxCompute 的目的是为用户提供一种便捷的分析处理海量数据的手段。用户可以不必关心分布式计算细节,从而达到分析大数据的目的。

MaxCompute 已经在阿里巴巴集团内部得到大规模应用,例如:大型互联网企业的数据仓库和 BI 分析、网站的日志分析、电子商务网站的交易分析、用户特征和兴趣挖掘等。

进入https://www.aliyun.com/solution/customer选择大数据,了解更多MaxCompute用户案例。

MaxCompute可以做什么

从产品设计角度,MaxCompute 主要面向三类大数据处理场景:基于SQL 构建大规模数据仓库和企业BI 系统,基于MapReduce 和BSP 的分布式编程模型开发大数据应用,基于统计和机器学习算法开发大数据统计模型和数据挖掘。在后面“典型场景”一节将会给出这些场景的应用实例。

从服务角度,MaxCompute 采用抽象的作业处理框架将不同场景的各种计算任务统一在同一个平台之上,共享安全、存储、数据管理和资源调度,为来自不同用户需求的各种数据处理任务提供统一的编程接口和界面。MaxCompute 这种集成多种不同大数据处理应用场景的设计思想领先于业界同类云计算产品,为大数据应用开发提供一个非常强大的平台。

MaxCompute怎么收费?

关于MaxCompute的收费问题也是大家近期最为关心的话题,下面为大家一一解答。更多关于计量计费说明

目前,MaxCompute以项目project为计费单元,对project内的数据存储、计算(目前只是SQL)、数据下载(走公网收费)进行收费,计费周期都是当天出前一天的账单。

SQL Cost

数据存储-收费

  • 0< 存储量 < 512MB: 收取当前项目0.01元费用。
  • 存储量 > 512MB:
基础价格 大于100GB部分 大于1TB部分 大于10TB部分 大于100TB部分 1PB以上部分
0.0192元/GB/天 0.0096元/GB/天 0.0084元/GB/天 0.0072元/GB/天 0.006元/GB/天 请通过工单联系我们

例如用户某个项目的存储为50TB,则每天收取的费用为:

 100GB*0.0192元/GB/天  --基础价格
 +(1024-100)GB*0.0096元/GB/天   --大于100GB部分价格
 +(10240-1024)GB*0.0084元/GB/天  --大于1TB部分价格
 +(50*1024-10240)GB*0.0072元/GB/天  --大于10TB部分价格
 =383.12元/天

由于MaxCompute会对原始数据进行压缩,那么计费依据也是按照压缩后的数据量进行计算,一般压缩比在5倍左右。

计算计费(后付费/预付费)

  • 后付费:以作业实际消耗量作为统计指标,在执行后进行收费。

所谓按I/O后付费是指:用户每执行一条SQL作业,MaxCompute将根据该作业的输入数据及该SQL的复杂度进行计费。

一次SQL计算费用 = 计算输入数据量(SQL语句实际扫描数据量) SQL复杂度 SQL价格(0.3元/GB),其中复杂度一般先统计SQL语句中的关键字再进行折算,也可以使用cost sql 进行估算。

SQL关键字个数 = Join个数 + Group By个数 + Order By个数 + Distinct个数 + 窗口函数个数 + max(insert into个数-1, 1)
在Data IDE中会针对每个SQL在执行前会进行一次计算消费的预估,如下图:

SQL Cost

  • 预付费:包年包月购买CU方式,10CU起售。

1CU = 1CPU + 4GB内存,售价为 150元/月。

下载计费

对于公网或者跨Region的数据下载,MaxCompute将按照下载的数据大小进行计费(也就是说数据下载走内网模式且在当前region内是不计费的)。计费公式为:

一次下载费用 = 下载数据量 * 下载价格

  • 如上述还不能帮助到大家,大家可以进入计量计费详细说明进行了解。也可以通过如下钉钉扫码方式进入,咨询我们的售前工程师。

SQL Cost

相关实践学习
基于MaxCompute的热门话题分析
Apsara Clouder大数据专项技能认证配套课程:基于MaxCompute的热门话题分析
目录
相关文章
|
存储 分布式计算 大数据
【赵渝强老师】阿里云大数据存储计算服务:MaxCompute
阿里云MaxCompute是快速、全托管的TB/PB级数据仓库解决方案,提供海量数据存储与计算服务。支持多种计算模型,适用于大规模离线数据分析,具备高安全性、低成本、易用性强等特点,助力企业高效处理大数据。
638 0
|
数据采集 运维 DataWorks
DataWorks 千万级任务调度与全链路集成开发治理赋能智能驾驶技术突破
智能驾驶数据预处理面临数据孤岛、任务爆炸与开发运维一体化三大挑战。DataWorks提供一站式的解决方案,支持千万级任务调度、多源数据集成及全链路数据开发,助力智能驾驶模型数据处理与模型训练高效落地。
1032 0
|
11月前
|
存储 分布式计算 资源调度
【赵渝强老师】阿里云大数据MaxCompute的体系架构
阿里云MaxCompute是快速、全托管的EB级数据仓库解决方案,适用于离线计算场景。它由计算与存储层、逻辑层、接入层和客户端四部分组成,支持多种计算任务的统一调度与管理。
912 1
|
数据采集 分布式计算 大数据
不会Python,还敢说搞大数据?一文带你入门大数据编程的“硬核”真相
不会Python,还敢说搞大数据?一文带你入门大数据编程的“硬核”真相
307 1
|
存储 缓存 分布式计算
OSS大数据分析集成:MaxCompute直读OSS外部表优化查询性能(减少数据迁移的ETL成本)
MaxCompute直读OSS外部表优化方案,解决传统ETL架构中数据同步延迟高、传输成本大、维护复杂等问题。通过存储格式优化(ORC/Parquet)、分区剪枝、谓词下推与元数据缓存等技术,显著提升查询性能并降低成本。结合冷热数据分层与并发控制策略,实现高效数据分析。
456 2
|
SQL 分布式计算 大数据
SparkSQL 入门指南:小白也能懂的大数据 SQL 处理神器
在大数据处理的领域,SparkSQL 是一种非常强大的工具,它可以让开发人员以 SQL 的方式处理和查询大规模数据集。SparkSQL 集成了 SQL 查询引擎和 Spark 的分布式计算引擎,使得我们可以在分布式环境下执行 SQL 查询,并能利用 Spark 的强大计算能力进行数据分析。
|
存储 分布式计算 DataWorks
从MaxCompute到Milvus:通过DataWorks进行数据同步,实现海量数据高效相似性检索
如果您需要将存储在MaxCompute中的大规模结构化数据导入Milvus,以支持高效的向量检索和相似性分析,可以通过DataWorks的数据集成服务实现无缝同步。本文介绍如何利用DataWorks,快速完成从MaxCompute到Milvus的离线数据同步。
|
人工智能 分布式计算 大数据
构建AI时代的大数据基础设施-MaxCompute多模态数据处理最佳实践
本文介绍了大数据与AI一体化架构的演进及其实现方法,重点探讨了Data+AI开发全生命周期的关键步骤。文章分析了大模型开发中的典型挑战,如数据管理混乱、开发效率低下和运维管理困难,并提出了解决方案。同时,详细描述了MaxCompute在构建AI时代数据基础设施中的作用,包括其强大的计算能力、调度能力和易用性特点。此外,还展示了MaxCompute在多模态数据处理中的应用实践以及具体客户案例,最后提供了体验MaxFrame解决方案的方式。
1434 2
|
数据采集 SQL 人工智能
长文详解|DataWorks Data+AI一体化开发实战图谱
DataWorks是一站式智能大数据开发治理平台,内置阿里巴巴15年大数据建设方法论,深度适配阿里云MaxCompute、EMR、Hologres、Flink、PAI 等数十种大数据和AI计算服务,为数仓、数据湖、OpenLake湖仓一体数据架构提供智能化ETL开发、数据分析与主动式数据资产治理服务,助力“Data+AI”全生命周期的数据管理。
3594 5
|
数据采集 数据可视化 大数据
Python入门修炼:开启你在大数据世界的第一个脚本
Python入门修炼:开启你在大数据世界的第一个脚本
297 6

热门文章

最新文章

相关产品

  • 云原生大数据计算服务 MaxCompute