使用内置公开数据集快速体验MaxCompute
1. 选择实验资源
本实验支持开通免费试用、个人账户资源两种实验资源方式。
在实验开始前,请您选择其中一种实验资源,单击确认开启实验。
- 如果您选择的是开通免费试用,下方卡片会展示本实验支持的试用规格,可以选择你要试用的云产品资源进行开通。您在实验过程中,可以随时用右下角icon唤起试用卡片。
说明:试用云产品开通在您的个人账号下,并占用您的试用权益。如试用超出免费试用额度,可能会产生一定费用。
阿里云支持试用的产品列表、权益及具体规则说明请参考开发者试用中心。
2. 创建实验资源
费用问题体验前必看完!体验前必看完!体验前必看完!
本步骤指导您如何创建开通MaxCompute 。
如果您已创建开通创建MaxCompute 项目空间,请您选择个人账户资源,并跳过本小节,直接进行实验操作即可。
本步骤仅作为参考使用,您可以根据需求自行选择配置。
如果您选择的是开通免费试用,参考以下步骤创建开通MaxCompute项目。
- 在本实验页面下方卡片会展示本实验支持的试用规格,选择试用规格,单击立即试用。
- 在MaxCompute控制台试用开通页面,根据页面引导进行开MaxCompute。
- 在弹出的新建项目配置页面中配置项目信息,核心配置参数如表所示。
参数 |
说明 |
项目名称 |
自定义项目名称。本实验设置为doc_test_001。 【扩展知识】:项目名称需全局唯一,如果界面提示您项目名称已存在,您可根据提示修改项目名称。 |
计算资源付费类型 |
本实验选择:按量付费。【注意】您通过免费试用选购的资源抵扣包仅可用于抵扣后付费资源消耗,本教程选择“按量付费”。 |
默认Quota |
用于实现计算资源分配。本教程选择:默认后付费Quota。 |
单SQL消费限制 |
本实验不设置。本参数为单SQL消费的最高阈值。单位:扫描量(GB)*复杂度。非必填项,当选择按量付费计费类型时建议设置,可以避免非预期的单SQL消费过高。同时也建议配置实时消费监控告警,多方位监控限制消费超出预期,详情请参见消费监控告警。 |
数据类型 |
MaxCompute数据类型包含1.0数据类型、2.0数据类型和Hive兼容类型。 本教程选择:2.0数据类型。 |
是否加密 |
指定创建的MaxCompute项目是否需要开启数据加密功能。更多数据加密信息,请参见数据加密。 本实验选择:不加密。 |
如果您选择的是个人账户资源,参考以下步骤创建开通MaxCompute项目。
- 创建MaxCompute项目
- 前往MaxCompute控制台开通当前服务,点击左侧导航工作区>项目管理,在项目列表页面单击新建项目。
- 在弹出的新建项目配置页面中配置项目信息,核心配置参数可根据需求自行配置,项目计费规则请参考文档。
因本实验涉及到TPC-DS性能测试,实验中查询版本为TPCDS_10G,若您希望查询其他规格的数据,请参见执行TPC-DS Query。这些查询的复杂性和扫描数据范围差异很大,请谨慎选取执行,避免产生大量计算费用。您也可以使用TPC-DS基准套件中的工具生成这些查询的不同版本,不同版本因参数值而异,详情请参见TPC-DS官方文档,费用参考如表所示。
数据规格 |
Schema名称 |
使用按量计费运行费用预估 (真实费用以最终账单呈现为准) |
10GB |
TPCDS_10G |
约12元 |
100GB |
TPCDS_100G |
约120元 |
1TB |
TPCDS_1T |
约1200元 |
10TB |
TPCDS_10T |
约12000元 |
3. 通过GitHub公开事件数据进行数据分析体验
大量开发人员在GitHub上进行开源项目的开发工作,并在项目的开发过程中产生海量事件。GitHub会记录每次事件的类型及详情、开发者、代码仓库等信息,并开放其中的公开事件,包括加星标、提交代码等,具体事件类型请参见GithubEvents。
MaxCompute将GH Archive提供的海量公开事件数据进行离线处理并开发,生成一张事实表dwd_github_events_odps;一张聚合表dws_overview_by_repo_by_month_dailyupdate。
- dwd_github_events_odps:存储了每一条事件的主干信息,T+1小时更新。
- dws_overview_by_repo_by_month_dailyupdate:存储了项目维度每月事件指标汇总,T+1天更新。
- 登录并进入MaxComputeSQL分析页面,在左上角选择地域,本实验使用的地域为华东2(上海)。
说明:实际地域请根据实际项目空间所在地域进行选择。
- 单击左侧资源管理器图标 ,打开资源管理器页面,在页面左下角的公共数据集DEMO中,单击GithubEventAnalytics样例文件,在右侧的运行参数配置中配置项目为上述创建的项目,计算配额选择为默认后付费Quota,完成后单击顶部的运行按钮,等待任务运行完成。
注意:本样例文件包含多个query,每个query运行完成后将会在页面底部展示查询结果。一次运行样例文件中的所有query预计花费10元,如果您的运行次数过多超出免费资源额度,则超出部分会按量计费!
说明:如出现如下报错,请更换浏览器再次尝试。
- 对查询结果进行可视化分析。您可以单击运行结果的 图标,进行简单的可视化分析。本实验以最后一个query的查询结果为例,单击图标后,界面展示自动生成的堆叠柱状图。
4. 通过TPC-DS数据进行产品性能测试
- 与上述步骤一致,选择公共数据集DEMO中的TPCDS样例文件,本实验选择以TPCDS_10G-99-query.sql为例,同样配置运行参数配置中的项目、计算配额后单击顶部运行,等待任务运行完成。
注意:
- MaxCompute的 TPC DS Query样例文件内容引用自TPC,更多信息请参见TPC。通过上述文件查询所得结果不能等同于已发布的TPC-DS基准结果。
- 购买免费试用规格后,计算资源的最大计算并发上限为100。
- TPCDS_10G-99-query.sql样例文件共99条query,运行完成时间与当前实际资源情况有关,一般情况下预计需要15分钟左右。如果您运行一段时间后希望停止任务,可单击顶部的 按钮,然后前往作业运维页面手动终止状态为running的作业。
5. 释放资源
在完成实验之后,若您想保留实验相关的云产品资源,请随时关注账户扣费情况。若您不想保留实验相关的云产品资源,释放云产品资源即可。
实验链接:https://developer.aliyun.com/adc/scenario/f0489bd269564a02913da360b01c42d4