MaxCompute studio 第一弹 - 元数据浏览

本文涉及的产品
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
简介: 随着 MaxCompute 2.0 的发布,我们提供了MaxCompute Studio,一套基于IntelliJ IDEA的开发插件,让用户在集成开发环境(IDE)中更方便地进行SQL及用户代码开发。

随着 MaxCompute 2.0 的发布,我们提供了MaxCompute Studio,一套基于IntelliJ IDEA的开发插件,让用户在集成开发环境(IDE)中更方便地进行SQL及用户代码开发。MaxCompute Studio 为开发者提供了良好的开发体验,支持项目空间浏览、SQL 脚本开发,UDF开发和调试,作业执行状态展示等功能,本系列将逐一展开进行介绍。

第一弹 - 元数据浏览
第二弹 - 玩转SQL编辑器
第三弹 - UDF开发与调试
第四弹 - 权限那些事儿

MaxCompute 通过表(Table)来存储数据,以项目空间(Project)的形式来组织表和用户自定义函数(UDF)等其他资源。开发者在开发过程中会经常需要访问项目空间:列举表、查询表结构和元数据、预览表中现有数据、向表中导入导出数据等。以前这些操作主要都只能通过命令行工具或者管理员的管理工具才能获得,现在开发者都可以通过 MaxCompute Studio 提供的项目空间浏览器(Project Explorer)来完成这些操作。

添加项目

首先你得在MaxCompute studio中添加一个project连接,具体的,在Project Explorer窗口中点击工具栏上的"+",配置好连接信息,点击OK,后台会自动同步这个项目的表和函数元数据到本地(默认存储在本机~/.odps.studio/meta)。 同步完成后在项目空间浏览器(Project Explorer)窗口的树中就能看到这个新增的Project节点。

表/函数详情

项目空间同步完成后,就可以在project explorer里浏览Table&View、Function、Resource等项目资源。这里树控件是可以搜索的,直接键入搜索字符即可:
image.png

双击树中某个元素即可查看详情,譬如双击表,可以查看表的详细信息,包括 owner,size,column 等元数据,表结构信息,数据预览,以及分区信息:
屏幕快照 2019-04-02 11.52.22.png

内置函数双击显示文档,自定义函数双击显示函数源码:
image.png

快速查找

除了通过列表浏览项目资源,你还可以精准的定位某个资源,具体的

  • 点击工具栏上的open specific entity按钮,直接输入表名即可:
    image
  • 快捷键(win:Ctrl+Alt+Shift+N mac:⌥+⌘+O)唤出navigate symbol,输入表名回车:
    image

创建/编辑表

  • 右键项目名称或者“Table & Views”选择“Create a new table”进行可视化建表;在某张表上右键,选择“open table editor”即可以可视化编辑表:
    image.png
  • 右键某张表,选择generate DDL statement,则会在SQL编辑器中打开该表的DDL,接下来就可以继续在其基础上修改了:
    image

元数据拷贝

studio支持用户“复制项目空间元数据”操作,如下图,选择源和目标project,点击工具栏上的copy meta按钮,弹出copy project meta对话框。选择你需要复制的表、函数、资源,点击ok,等待后台复制完成,将会在目标project下看到复制完成的表、函数、资源。
meta_copy

导入导出表数据

Studio可以将csv格式的本地数据文件导入到 MaxCompute 表中,也可将 MaxCompute 中表数据导出数据到本地文件。具体的,在表名上右键,选择 Export data from table,弹出Export Data对话框,选择导出数据文件的保存路径,列分隔符(可自定义输入),大小限制,错误容忍行数等:

export_table

小结

使用MaxCompute studio,可以帮助你高效的浏览项目中的元数据,也能方便的编辑元数据,导入及导出表数据。休息一下,继续学习下一弹玩转SQL编辑器

联系我们

MaxCompute studio插件支持IntelliJ全系产品,具体参考安装文档
image

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
目录
相关文章
|
7月前
|
SQL 分布式计算 大数据
请问本地安装了大数据计算MaxCompute studio,如何验证联通性及基本DDL操作呢?
请问本地安装了大数据计算MaxCompute studio,如何验证联通性及基本DDL操作呢?
64 0
|
SQL 存储 分布式计算
MaxCompute元数据使用实践--项目信息统计
MaxCompute的租户级别Information Schema从租户角度提供项目元数据及使用历史数据等信息,您可以一次性拉取您同一个元数据中心下所有Project的某类元数据,从而进行各类元数据的统计分析。
841 0
|
5月前
|
存储 JSON 分布式计算
DataWorks操作报错合集之在处理元数据存储时发生报错:ODPS-0010000,该如何处理
DataWorks是阿里云提供的一站式大数据开发与治理平台,支持数据集成、数据开发、数据服务、数据质量管理、数据安全管理等全流程数据处理。在使用DataWorks过程中,可能会遇到各种操作报错。以下是一些常见的报错情况及其可能的原因和解决方法。
|
7月前
|
SQL 分布式计算 DataWorks
MaxCompute产品使用合集之要查看MaxCompute Studio中的项目中的计算任务代码,我该怎么操作
MaxCompute作为一款全面的大数据处理平台,广泛应用于各类大数据分析、数据挖掘、BI及机器学习场景。掌握其核心功能、熟练操作流程、遵循最佳实践,可以帮助用户高效、安全地管理和利用海量数据。以下是一个关于MaxCompute产品使用的合集,涵盖了其核心功能、应用场景、操作流程以及最佳实践等内容。
|
7月前
|
机器学习/深度学习 分布式计算 大数据
MaxCompute产品使用合集之大数据计算MaxCompute如何限制用户只能访问特定的元数据信息,而不是整个工作空间
MaxCompute作为一款全面的大数据处理平台,广泛应用于各类大数据分析、数据挖掘、BI及机器学习场景。掌握其核心功能、熟练操作流程、遵循最佳实践,可以帮助用户高效、安全地管理和利用海量数据。以下是一个关于MaxCompute产品使用的合集,涵盖了其核心功能、应用场景、操作流程以及最佳实践等内容。
|
7月前
|
分布式计算 项目管理 MaxCompute
MaxCompute元数据使用实践--数据权限统计
本文主要介绍通过元数据的相关权限的视图进行数据权限的统计。
101631 2
|
7月前
|
数据采集 数据管理 大数据
【电力大数据】浅谈电力行业元数据管理
【电力大数据】浅谈电力行业元数据管理
237 0
|
7月前
|
存储 缓存 NoSQL
大数据 | HDFS 元数据持久化笔记
大数据 | HDFS 元数据持久化笔记
187 0
|
SQL 分布式计算 DataWorks
MaxCompute元数据使用实践--作业统计
通过MaxCompute租户级别Information Schema的“TASKS_HISTORY”视图可以统计查看MaxCompute计算作业的元数据信息,方便您进行作业审计以及各类统计,指导作业性能、成本优化。
1634 0
|
SQL 分布式计算 大数据
MaxCompute元数据使用实践 -- 数据下载审计
通过MaxCompute租户级别Information Schema的“TUNNELS_HISTORY”视图可以统计查看通过Tunnel通道进行数据上传下载的相关详细信息,方便您进行数据流转的审计排查。
788 0