开发者社区 > 大数据与机器学习 > 大数据计算 MaxCompute > 正文

DataWorks中如何使用maxcompute的数据集成功能?

DataWorks中如何使用maxcompute的数据集成功能?

展开
收起
真的很搞笑 2023-07-25 18:27:47 75 0
3 条回答
写回答
取消 提交回答
  • 北京阿里云ACE会长

    在DataWorks中,你可以使用MaxCompute的数据集成功能来创建数据集,以便在数据开发和数据分析任务中使用。下面是使用MaxCompute数据集成功能的步骤:

    进入DataWorks控制台,选择项目并进入项目首页。

    在项目首页,点击左侧导航栏中的"数据开发",然后选择需要创建数据集的工作空间。

    在工作空间中,点击左上角的"新建数据集"按钮。

    在数据集创建页面,选择数据源为MaxCompute。

    配置数据集的基本信息,包括数据集名称、描述等。

    在数据集配置页面,选择MaxCompute表作为数据集的来源。你可以选择已存在的MaxCompute表,或者使用SQL语句来定义数据集的逻辑。

    如果选择使用SQL语句定义数据集,可以在"SQL查询编辑器"中编写SQL语句,对MaxCompute表进行筛选、过滤、聚合等操作,并为数据集定义列名和数据类型。

    配置完数据集的来源后,点击"下一步"。

    在"数据集预览"页面,可以预览数据集的数据,并进行必要的数据预处理操作。

    点击"创建数据集"完成数据集的创建过程。

    2023-07-30 16:31:55
    赞同 展开评论 打赏
  • 在DataWorks中,可以使用MaxCompute的数据集(Table/View)功能来方便地管理和使用数据。以下是使用MaxCompute数据集的一般步骤:

    1. 创建数据集:登录DataWorks控制台,并进入相应的项目空间。在项目空间中,选择“开发”模块,然后点击左侧导航栏中的“数据集”选项。在数据集页面上,点击“新建数据集”按钮,按照提示设置数据集的相关信息,包括名称、描述、表格类型等。选择所需的数据源(MaxCompute)并确定。

    2. 配置数据集规则:在创建数据集后,可以通过配置数据集规则来定义数据集的内容。根据实际需求,选择要包含的数据表或视图,并设置过滤条件、排序方式等。

    3. 使用数据集:在任务或工作流程中,可以直接引用和使用已创建的数据集。在相应的节点中,选择数据集作为输入源或输出目标,以进行数据处理操作。

      • 如果节点是ODPS SQL节点,可以通过FROM子句引用数据集,并使用其中的数据进行SQL操作。
      • 如果节点是PyODPS节点,可以使用PyODPS库中的函数和方法来操作数据集。
      • 对于其他类型的节点,可以根据节点的特性和功能,选择合适的方式使用数据集。
    2023-07-26 21:38:23
    赞同 展开评论 打赏
  • ODS的数据需要由各数据源系统同步到MaxCompute,才能用于进一步的数据开发。本教程建议您使用DataWorks数据集成功能完成数据同步,详情请参见概述。在使用数据集成的过程中,建议您遵循以下规范:一个系统的源表只允许同步到MaxCompute一次,保持表结构的一致性。数据集成仅用于离线全量数据同步,实时增量数据同步需要您使用数据传输服务DTS实现,详情请参见数据传输服务DTS。数据集成全量同步的数据直接进入全量表的当日分区。ODS层的表建议以统计日期及时间分区表的方式存储,便于管理数据的存储成本和策略控制。数据集成可以自适应处理源系统字段的变更:如果源系统字段的目标表在MaxCompute上不存在,可以由数据集成自动添加不存在的表字段。如果目标表的字段在源系统不存在,数据集成填充NULL。
    https://help.aliyun.com/document_detail/154247.html,此回答整理自钉群“DataWorks交流群(答疑@机器人)”

    2023-07-25 18:41:31
    赞同 展开评论 打赏

MaxCompute(原ODPS)是一项面向分析的大数据计算服务,它以Serverless架构提供快速、全托管的在线数据仓库服务,消除传统数据平台在资源扩展性和弹性方面的限制,最小化用户运维投入,使您经济并高效的分析处理海量数据。

相关产品

  • 云原生大数据计算服务 MaxCompute
  • 相关电子书

    更多
    Data+AI时代大数据平台应该如何建设 立即下载
    大数据AI一体化的解读 立即下载
    极氪大数据 Serverless 应用实践 立即下载