DataWorks On E-MapReduce功能2020年4月3日正式启动商业化

本文涉及的产品
大数据开发治理平台DataWorks,资源组抵扣包 750CU*H
简介: DataWorks已支持MaxCompute、Flink、Hologres、GraphCompute、ADB for PostgreSQL等多种计算引擎,2020年4月3日DataWorks正式支持阿里云E-MapReduce。

DataWorks作为飞天大数据平台操作系统,是阿里巴巴自主研发的全域智能大数据研发平台,涵盖了数据集成、数据开发、数据治理、数据安全、数据服务、应用开发、机器学习等大数据研发模块。
DataWorks支撑阿里巴巴经济体99%数据业务建设和治理,每天数万名数据开发和算法开发工程师在使用。

DataWorks已支持MaxCompute、Flink、Hologres、GraphCompute、ADB for PostgreSQL等多种计算引擎,2020年4月3日DataWorks正式支持阿里云E-MapReduce(以下简称EMR)。DataWorks常用的数据开发模块均已支持EMR引擎,欢迎选购DataWorks专业版进行体验!
4月3日:发布成都region、深圳region
4月7日:国内外其他region拉平
重磅预告:数据保护伞也即将支持EMR引擎,预计于4月8日发布上线。

一. DataWorks工作空间支持绑定emr引擎

您购买EMR集群资源后,可以在DataWorks管控台或工作空间管理中绑定对应的EMR计算引擎。
方式1:DataWorks管控台
在创建工作空间时,直接关联EMR引擎

image.png

方式2:DataWorks工作空间管理
在数据开发页面,点击工作空间管理,在工作空间配置里添加引擎信息
image.png

二. DataWorks支持配置多种存储数据源等同步任务,满足emr数据存储需求

DataWorks支持HBase、Hive、HDFS等多种数据源的同步任务,满足您的存储需求。
image.png

三. DataWorks支持多种EMR节点类型

目前已支持EMR HIVE、EMR
MR、EMR SPARK SQL、EMR SPARK、EMR SHELL、EMR SPARK SHELL、EMR PRESTO SQL节点。丰富的节点类型,满足您日常数据开发的需求
image.png

四. DataWorks支持EMR节点的调度及运维

已提交的EMR节点任务,可以在运维中心中查看节点详情和实例运行情况等
image.png

五. DataWorks支持EMR元数据采集、数据发现与管理

数据地图模块提供EMR元数据采集功能;开启元数据采集后,DataWorks将会同步获取到EMR集群的数据信息。
image.png
在数据地图中可以搜索并查看到EMR表详情。
image.png

六. DataWorks支持EMR节点的数据质量监控

开启EMR元数据采集后,可以在数据质量模块中获取到EMR引擎及其包含的数据表信息,对EMR数据表配置数据质量监控规则。
image.png


欢迎加入DataWorks on EMR用户支持钉钉群号 : 30036331

相关实践学习
基于Hologres轻量实时的高性能OLAP分析
本教程基于GitHub Archive公开数据集,通过DataWorks将GitHub中的项⽬、行为等20多种事件类型数据实时采集至Hologres进行分析,同时使用DataV内置模板,快速搭建实时可视化数据大屏,从开发者、项⽬、编程语⾔等多个维度了解GitHub实时数据变化情况。
目录
相关文章
|
SQL 存储 DataWorks
DataWorks数据同步功能支持全量更新和增量更新两种方式
【4月更文挑战第3天】DataWorks数据同步功能支持全量更新和增量更新两种方式
653 3
|
DataWorks Kubernetes 大数据
飞天大数据平台产品问题之DataWorks提供的商业化服务如何解决
飞天大数据平台产品问题之DataWorks提供的商业化服务如何解决
|
数据采集 DataWorks 关系型数据库
DataWorks产品使用合集之是否有数据质量检查功能
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
185 0
|
数据采集 DataWorks 监控
‌DataWorks的主要功能‌
‌DataWorks的主要功能‌
963 1
|
分布式计算 DataWorks 调度
DataWorks产品使用合集之如何进入迁移助手页面并使用迁移助手功能
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
|
SQL DataWorks 关系型数据库
DataWorks操作报错合集之执行读取任务时遇到报错:“ERROR: failed to acquire resources on one or more segments”,该怎么解决
DataWorks是阿里云提供的一站式大数据开发与治理平台,支持数据集成、数据开发、数据服务、数据质量管理、数据安全管理等全流程数据处理。在使用DataWorks过程中,可能会遇到各种操作报错。以下是一些常见的报错情况及其可能的原因和解决方法。
|
分布式计算 DataWorks Java
DataWorks操作报错合集之使用ODPS Tunnel Upload功能时,遇到报错:Java 堆内存不足,该如何解决
DataWorks是阿里云提供的一站式大数据开发与治理平台,支持数据集成、数据开发、数据服务、数据质量管理、数据安全管理等全流程数据处理。在使用DataWorks过程中,可能会遇到各种操作报错。以下是一些常见的报错情况及其可能的原因和解决方法。
|
分布式计算 自然语言处理 DataWorks
MaxCompute产品使用合集之在DataWorks中,当涉及到MC的投递功能时,所指的自定义RAM角色是什么
MaxCompute作为一款全面的大数据处理平台,广泛应用于各类大数据分析、数据挖掘、BI及机器学习场景。掌握其核心功能、熟练操作流程、遵循最佳实践,可以帮助用户高效、安全地管理和利用海量数据。以下是一个关于MaxCompute产品使用的合集,涵盖了其核心功能、应用场景、操作流程以及最佳实践等内容。
178 0
|
分布式计算 DataWorks 大数据
MaxCompute产品使用合集之在阿里云DataWorks中,如何关闭跨空间查询表功能
MaxCompute作为一款全面的大数据处理平台,广泛应用于各类大数据分析、数据挖掘、BI及机器学习场景。掌握其核心功能、熟练操作流程、遵循最佳实践,可以帮助用户高效、安全地管理和利用海量数据。以下是一个关于MaxCompute产品使用的合集,涵盖了其核心功能、应用场景、操作流程以及最佳实践等内容。
256 0
|
数据采集 DataWorks 安全
DataWorks产品使用合集之DataWorks 中提供分区功能如何解决
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
185 1

热门文章

最新文章

相关产品

  • 大数据开发治理平台 DataWorks