使用内置公开数据集快速体验MaxCompute

本文涉及的产品
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
简介: 本教程会指导您基于MaxCompute提供的TPC-DS样例数据和GitHub公开事件样例数据,通过MaxCompute SQL分析,快速体验MaxCompute产品,完成开通、执行SQL语句查询数据。您无需进行数据同步,可直接上手体验数据分析。

使用内置公开数据集快速体验MaxCompute

1. 选择实验资源

本实验支持开通免费试用、个人账户资源两种实验资源方式。

在实验开始前,请您选择其中一种实验资源,单击确认开启实验

  • 如果您选择的是开通免费试用,下方卡片会展示本实验支持的试用规格,可以选择你要试用的云产品资源进行开通。您在实验过程中,可以随时用右下角icon唤起试用卡片。

说明:试用云产品开通在您的个人账号下,并占用您的试用权益如试用超出免费试用额度,可能会产生一定费用。

阿里云支持试用的产品列表、权益及具体规则说明请参考开发者试用中心


2. 创建实验资源

费用问题体验前必看完!体验前必看完!体验前必看完!

本步骤指导您如何创建开通MaxCompute 。

如果您已创建开通创建MaxCompute 项目空间,请您选择个人账户资源,并跳过本小节,直接进行实验操作即可。

本步骤仅作为参考使用,您可以根据需求自行选择配置。

如果您选择的是开通免费试用,参考以下步骤创建开通MaxCompute项目。

  1. 在本实验页面下方卡片会展示本实验支持的试用规格,选择试用规格,单击立即试用。

  1. MaxCompute控制台试用开通页面,根据页面引导进行开MaxCompute。
  2. 在弹出的新建项目配置页面中配置项目信息,核心配置参数如表所示。

参数

说明

项目名称

自定义项目名称。本实验设置为doc_test_001

【扩展知识】:项目名称需全局唯一,如果界面提示您项目名称已存在,您可根据提示修改项目名称。

计算资源付费类型

本实验选择:按量付费【注意】您通过免费试用选购的资源抵扣包仅可用于抵扣后付费资源消耗,本教程选择“按量付费”。

默认Quota

用于实现计算资源分配。本教程选择:默认后付费Quota

单SQL消费限制

本实验不设置。本参数为单SQL消费的最高阈值。单位:扫描量(GB)*复杂度。非必填项,当选择按量付费计费类型时建议设置,可以避免非预期的单SQL消费过高。同时也建议配置实时消费监控告警,多方位监控限制消费超出预期,详情请参见消费监控告警

数据类型

MaxCompute数据类型包含1.0数据类型2.0数据类型Hive兼容类型

本教程选择:2.0数据类型

是否加密

指定创建的MaxCompute项目是否需要开启数据加密功能。更多数据加密信息,请参见数据加密

本实验选择:不加密

如果您选择的是个人账户资源,参考以下步骤创建开通MaxCompute项目。

  1. 创建MaxCompute项目
  1. 前往MaxCompute控制台开通当前服务,点击左侧导航工作区>项目管理,在项目列表页面单击新建项目
  1. 在弹出的新建项目配置页面中配置项目信息,核心配置参数可根据需求自行配置,项目计费规则请参考

因本实验涉及到TPC-DS性能测试,实验中查询版本为TPCDS_10G,若您希望查询其他规格的数据,请参见执行TPC-DS Query。这些查询的复杂性和扫描数据范围差异很大,请谨慎选取执行,避免产生大量计算费用。您也可以使用TPC-DS基准套件中的工具生成这些查询的不同版本,不同版本因参数值而异,详情请参见TPC-DS官方文档,费用参考如表所示。

数据规格

Schema名称

使用按量计费运行费用预估

(真实费用以最终账单呈现为准)

10GB

TPCDS_10G

约12元

100GB

TPCDS_100G

约120元

1TB

TPCDS_1T

约1200元

10TB

TPCDS_10T

约12000元


3. 通过GitHub公开事件数据进行数据分析体验

大量开发人员在GitHub上进行开源项目的开发工作,并在项目的开发过程中产生海量事件。GitHub会记录每次事件的类型及详情、开发者、代码仓库等信息,并开放其中的公开事件,包括加星标、提交代码等,具体事件类型请参见GithubEvents

MaxCompute将GH Archive提供的海量公开事件数据进行离线处理并开发,生成一张事实表dwd_github_events_odps;一张聚合表dws_overview_by_repo_by_month_dailyupdate。

  • dwd_github_events_odps:存储了每一条事件的主干信息,T+1小时更新。
  • dws_overview_by_repo_by_month_dailyupdate:存储了项目维度每月事件指标汇总,T+1天更新。
  1. 登录并进入MaxComputeSQL分析页面,在左上角选择地域,本实验使用的地域为华东2(上海)。

说明:实际地域请根据实际项目空间所在地域进行选择。

  1. 单击左侧资源管理器图标 ,打开资源管理器页面,在页面左下角的公共数据集DEMO中,单击GithubEventAnalytics样例文件,在右侧的运行参数配置中配置项目为上述创建的项目,计算配额选择为默认后付费Quota,完成后单击顶部的运行按钮,等待任务运行完成。

注意:本样例文件包含多个query,每个query运行完成后将会在页面底部展示查询结果。一次运行样例文件中的所有query预计花费10元,如果您的运行次数过多超出免费资源额度,则超出部分会按量计费!

说明:如出现如下报错,请更换浏览器再次尝试。

  1. 对查询结果进行可视化分析。您可以单击运行结果的 图标,进行简单的可视化分析。本实验以最后一个query的查询结果为例,单击图标后,界面展示自动生成的堆叠柱状图。

4. 通过TPC-DS数据进行产品性能测试

  1. 与上述步骤一致,选择公共数据集DEMO中的TPCDS样例文件,本实验选择以TPCDS_10G-99-query.sql为例,同样配置运行参数配置中的项目、计算配额后单击顶部运行,等待任务运行完成。

注意:

  • MaxCompute的 TPC DS Query样例文件内容引用自TPC,更多信息请参见TPC。通过上述文件查询所得结果不能等同于已发布的TPC-DS基准结果。
  • 购买免费试用规格后,计算资源的最大计算并发上限为100。
  • TPCDS_10G-99-query.sql样例文件共99条query,运行完成时间与当前实际资源情况有关,一般情况下预计需要15分钟左右。如果您运行一段时间后希望停止任务,可单击顶部的 按钮,然后前往作业运维页面手动终止状态为running的作业。


5. 释放资源

在完成实验之后,若您想保留实验相关的云产品资源,请随时关注账户扣费情况。若您不想保留实验相关的云产品资源,释放云产品资源即可。

实验链接:https://developer.aliyun.com/adc/scenario/f0489bd269564a02913da360b01c42d4

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
5月前
|
SQL 分布式计算 大数据
MaxCompute产品使用合集之如何解决数据集查询超时
MaxCompute作为一款全面的大数据处理平台,广泛应用于各类大数据分析、数据挖掘、BI及机器学习场景。掌握其核心功能、熟练操作流程、遵循最佳实践,可以帮助用户高效、安全地管理和利用海量数据。以下是一个关于MaxCompute产品使用的合集,涵盖了其核心功能、应用场景、操作流程以及最佳实践等内容。
|
6月前
|
分布式计算 关系型数据库 MySQL
MaxCompute数据问题之创建数据集失败如何解决
MaxCompute数据包含存储在MaxCompute服务中的表、分区以及其他数据结构;本合集将提供MaxCompute数据的管理和优化指南,以及数据操作中的常见问题和解决策略。
|
6月前
|
JSON 分布式计算 MaxCompute
MaxCompute问题之创建数据集失败如何解决
MaxCompute数据包含存储在MaxCompute服务中的表、分区以及其他数据结构;本合集将提供MaxCompute数据的管理和优化指南,以及数据操作中的常见问题和解决策略。
|
6月前
|
机器学习/深度学习 分布式计算 搜索推荐
【大数据技术】Spark MLlib机器学习协同过滤电影推荐实战(附源码和数据集)
【大数据技术】Spark MLlib机器学习协同过滤电影推荐实战(附源码和数据集)
212 0
|
6月前
|
机器学习/深度学习 分布式计算 前端开发
【大数据技术】Spark MLlib机器学习线性回归、逻辑回归预测胃癌是否转移实战(附源码和数据集)
【大数据技术】Spark MLlib机器学习线性回归、逻辑回归预测胃癌是否转移实战(附源码和数据集)
73 0
|
6月前
|
机器学习/深度学习 分布式计算 大数据
【大数据技术】Spark MLlib机器学习特征抽取 TF-IDF统计词频实战(附源码和数据集)
【大数据技术】Spark MLlib机器学习特征抽取 TF-IDF统计词频实战(附源码和数据集)
69 0
|
6月前
|
存储 分布式计算 搜索推荐
【大数据技术Hadoop+Spark】MapReduce之单词计数和倒排索引实战(附源码和数据集 超详细)
【大数据技术Hadoop+Spark】MapReduce之单词计数和倒排索引实战(附源码和数据集 超详细)
183 0
|
6月前
|
机器学习/深度学习 分布式计算 大数据
【云计算与大数据技术】Spark实战项目之判别西瓜好坏(附源码和数据集)
【云计算与大数据技术】Spark实战项目之判别西瓜好坏(附源码和数据集)
101 0
|
机器学习/深度学习 人工智能 大数据
人工智能、大数据、数据挖掘、机器学习-数据集来源(下)
人工智能、大数据、数据挖掘、机器学习-数据集来源(下)
215 0
|
机器学习/深度学习 存储 人工智能
人工智能、大数据、数据挖掘、机器学习-数据集来源(中)
人工智能、大数据、数据挖掘、机器学习-数据集来源(中)
172 0

相关产品

  • 云原生大数据计算服务 MaxCompute