DataWorks On E-MapReduce功能2020年4月3日正式启动商业化

本文涉及的产品
大数据开发治理平台DataWorks,Serverless资源组抵扣包300CU*H
简介: DataWorks已支持MaxCompute、Flink、Hologres、GraphCompute、ADB for PostgreSQL等多种计算引擎,2020年4月3日DataWorks正式支持阿里云E-MapReduce。

DataWorks作为飞天大数据平台操作系统,是阿里巴巴自主研发的全域智能大数据研发平台,涵盖了数据集成、数据开发、数据治理、数据安全、数据服务、应用开发、机器学习等大数据研发模块。
DataWorks支撑阿里巴巴经济体99%数据业务建设和治理,每天数万名数据开发和算法开发工程师在使用。

DataWorks已支持MaxCompute、Flink、Hologres、GraphCompute、ADB for PostgreSQL等多种计算引擎,2020年4月3日DataWorks正式支持阿里云E-MapReduce(以下简称EMR)。DataWorks常用的数据开发模块均已支持EMR引擎,欢迎选购DataWorks专业版进行体验!
4月3日:发布成都region、深圳region
4月7日:国内外其他region拉平
重磅预告:数据保护伞也即将支持EMR引擎,预计于4月8日发布上线。

一. DataWorks工作空间支持绑定emr引擎

您购买EMR集群资源后,可以在DataWorks管控台或工作空间管理中绑定对应的EMR计算引擎。
方式1:DataWorks管控台
在创建工作空间时,直接关联EMR引擎

image.png

方式2:DataWorks工作空间管理
在数据开发页面,点击工作空间管理,在工作空间配置里添加引擎信息
image.png

二. DataWorks支持配置多种存储数据源等同步任务,满足emr数据存储需求

DataWorks支持HBase、Hive、HDFS等多种数据源的同步任务,满足您的存储需求。
image.png

三. DataWorks支持多种EMR节点类型

目前已支持EMR HIVE、EMR
MR、EMR SPARK SQL、EMR SPARK、EMR SHELL、EMR SPARK SHELL、EMR PRESTO SQL节点。丰富的节点类型,满足您日常数据开发的需求
image.png

四. DataWorks支持EMR节点的调度及运维

已提交的EMR节点任务,可以在运维中心中查看节点详情和实例运行情况等
image.png

五. DataWorks支持EMR元数据采集、数据发现与管理

数据地图模块提供EMR元数据采集功能;开启元数据采集后,DataWorks将会同步获取到EMR集群的数据信息。
image.png
在数据地图中可以搜索并查看到EMR表详情。
image.png

六. DataWorks支持EMR节点的数据质量监控

开启EMR元数据采集后,可以在数据质量模块中获取到EMR引擎及其包含的数据表信息,对EMR数据表配置数据质量监控规则。
image.png


欢迎加入DataWorks on EMR用户支持钉钉群号 : 30036331

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
一站式大数据开发治理平台DataWorks初级课程
DataWorks 从 2009 年开始,十ー年里一直支持阿里巴巴集团内部数据中台的建设,2019 年双 11 稳定支撑每日千万级的任务调度。每天阿里巴巴内部有数万名数据和算法工程师正在使用DataWorks,承了阿里巴巴 99%的据业务构建。本课程主要介绍了阿里巴巴大数据技术发展历程与 DataWorks 几大模块的基本能力。 课程目标  通过讲师的详细讲解与实际演示,学员可以一边学习一边进行实际操作,可以深入了解DataWorks各大模块的使用方式和具体功能,让学员对DataWorks数据集成、开发、分析、运维、安全、治理等方面有深刻的了解,加深对阿里云大数据产品体系的理解与认识。 适合人群  企业数据仓库开发人员  大数据平台开发人员  数据分析师  大数据运维人员  对于大数据平台、数据中台产品感兴趣的开发者
目录
相关文章
|
3月前
|
DataWorks Kubernetes 大数据
飞天大数据平台产品问题之DataWorks提供的商业化服务如何解决
飞天大数据平台产品问题之DataWorks提供的商业化服务如何解决
|
20天前
|
数据采集 DataWorks 监控
‌DataWorks的主要功能‌
‌DataWorks的主要功能‌
54 1
|
5月前
|
数据采集 DataWorks 关系型数据库
DataWorks产品使用合集之是否有数据质量检查功能
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
|
4月前
|
分布式计算 DataWorks 调度
DataWorks产品使用合集之如何进入迁移助手页面并使用迁移助手功能
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
|
4月前
|
SQL DataWorks 关系型数据库
DataWorks操作报错合集之执行读取任务时遇到报错:“ERROR: failed to acquire resources on one or more segments”,该怎么解决
DataWorks是阿里云提供的一站式大数据开发与治理平台,支持数据集成、数据开发、数据服务、数据质量管理、数据安全管理等全流程数据处理。在使用DataWorks过程中,可能会遇到各种操作报错。以下是一些常见的报错情况及其可能的原因和解决方法。
|
4月前
|
分布式计算 DataWorks Java
DataWorks操作报错合集之使用ODPS Tunnel Upload功能时,遇到报错:Java 堆内存不足,该如何解决
DataWorks是阿里云提供的一站式大数据开发与治理平台,支持数据集成、数据开发、数据服务、数据质量管理、数据安全管理等全流程数据处理。在使用DataWorks过程中,可能会遇到各种操作报错。以下是一些常见的报错情况及其可能的原因和解决方法。
|
4月前
|
分布式计算 自然语言处理 DataWorks
MaxCompute产品使用合集之在DataWorks中,当涉及到MC的投递功能时,所指的自定义RAM角色是什么
MaxCompute作为一款全面的大数据处理平台,广泛应用于各类大数据分析、数据挖掘、BI及机器学习场景。掌握其核心功能、熟练操作流程、遵循最佳实践,可以帮助用户高效、安全地管理和利用海量数据。以下是一个关于MaxCompute产品使用的合集,涵盖了其核心功能、应用场景、操作流程以及最佳实践等内容。
|
4月前
|
分布式计算 DataWorks 大数据
MaxCompute产品使用合集之在阿里云DataWorks中,如何关闭跨空间查询表功能
MaxCompute作为一款全面的大数据处理平台,广泛应用于各类大数据分析、数据挖掘、BI及机器学习场景。掌握其核心功能、熟练操作流程、遵循最佳实践,可以帮助用户高效、安全地管理和利用海量数据。以下是一个关于MaxCompute产品使用的合集,涵盖了其核心功能、应用场景、操作流程以及最佳实践等内容。
109 0
|
5月前
|
SQL Web App开发 DataWorks
DataWorks产品使用合集之如何使用页面的“格式化”功能
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
|
5月前
|
分布式计算 运维 DataWorks
DataWorks产品使用合集之数据预览功能如何进行单独对个体进行设置
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。

热门文章

最新文章

相关产品

  • 大数据开发治理平台 DataWorks