DataWorks 2020-06 产品月刊

本文涉及的产品
大数据开发治理平台 DataWorks,不限时长
简介: 本月DataWorks产品月刊为您带来产品活动:1.限时折扣!DataWorks专业版原价5000元现仅需199元;独享数据集成资源组首月5折产品功能更新:1.新增DataWorks首页,帮助新用户快速了解DataWorks的产品定位及使用场景,降低学习成本2.资源优化模块正式商业化,专业版以上可用3.数据地图支持MySQL、Hologres、ADB等多种数据类型元数据采集4.独享资源组支持自定义路由功能5.数据集成6月新功能DataWorks百问百答32-41更新

本月DataWorks产品月刊为您带来
产品活动:
1.限时折扣!DataWorks专业版原价5000元现仅需199元;独享数据集成资源组首月5折

产品功能更新:
1.新增DataWorks首页,帮助新用户快速了解DataWorks的产品定位及使用场景,降低学习成本
2.资源优化模块正式商业化,专业版以上可用
3.数据地图支持MySQL、Hologres、ADB等多种数据类型元数据采集
4.独享资源组支持自定义路由功能
5.数据集成6月新功能:

  • 数据源资源组连通性测试、新增hive数据源同步、hive整库迁移
  • 新增PolarDB、OceanBase、SQL Server的实时读取;新增MaxCompute、Hologres的实时写入
  • MySQL支持了分库分表实时同步,实时同步可以针对于单库和单表进行按场景选择设置
  • 增加同步解决方案模块,一键整库Hologres,资源组推荐功能

DataWorks百问百答32-41更新

【产品活动】

1. 限时折扣!DataWorks专业版原价5000元现仅需199元>>
立即前往>>
2. 限时折扣!独享数据集成/独享调度资源组首月5折>>
立即前往>>

【产品功能更新】

1、DataWorks产品首页发布:

新增DataWorks首页,帮助新用户快速了解DataWorks的产品定位及使用场景,降低学习成本。
正毅1.png

2、资源优化模块结束内测,正式商业化

资源优化功能已开启商用,仅限专业版或以上dataworks版本可用。本功能可以从计算、存储方面扫描发现资源浪费的问题,并提供解决方案,降低客户大数据平台的使用成本。

  • 数据存储:可扫描出未管理的表、空表及90为访问表
  • 数据计算:可扫描出存在的任务冲突、数据倾斜及暴力扫描情况
  • 数据采集:可扫描出导入为空、持续导入一致及同源导入的情况

正毅2.png

3、数据地图支持MySQL、Hologres、ADB等多种数据类型元数据采集和管理

在数据地图中,数据发现新增对Hologres、ADB、MySQL、Oracle等多种数据类型的元数据采集能力,以及与之配套的全局检索和详情查看能力。详见:https://help.aliyun.com/document_detail/163501.html

  • 元数据采集:

202006月刊-4.png

  • 数据目录和全局检索:

202006月刊-3.png

202006月刊-2.png



  • 表元数据详情查看:

202006月刊-1.png


4、独享资源组支持自定义路由功能

独享资源组新增添加自定义路由功能,支持按需添加资源组VPC和其它VPC、IDC之间的自定义路由,可解决数据同步等场景下网络不可通的痛点问题。详见:https://help.aliyun.com/document_detail/168984.html

  • 资源组加路由

    • 通过界面化的产品,使用户自己手工添加打通网络所需路由,大大提升了网络设置效率
    • 202006月刊-资源组加路由.gif

5、数据集成6月新功能介绍

  • 数据源资源组连通性测试

    • 可以按照资源组进行单个测试连通性
    • 支持调度任务和数据服务使用数据源的连通性测试,以保证功能的正常执行
    • 202006月刊-连通性测试.gif
  • Hive数据源

    • 新增hive数据源同步,并支持JDBC模式,实现数据过滤和SQL查询
    • 202006月刊-hive同步.gif
    • hive整库迁移:方便用户的hive系统数据搬站上云。
    • 202006月刊-hive整库迁移.gif
  • 实时同步

    • 新增PolarDB、OceanBase、SQL Server的实时读取
    • 新增MaxCompute、Hologres的实时写入
    • MySQL支持了分库分表实时同步,可以实现多库多表同时实时同步

      • 202006月刊-实时-mysql分库分表.gif
    • 增加同步解决方案模块

      • 针对某些同步场景流程有了产品级入口,可以场景式解决用户问题,一站式完成所有操作。具体可以参见使用说明202006月刊-解决方案.gif
      • 一键整库Hologres

        • 在“同步解决方案”里增加了一键整库同步至Hologres,可以把某些数据库里的表通过简单配置,一次性的全量然后自动实时增量的同步至Hologres中,并支持动态DDL变化。
        • 202006月刊-一键同步到holo.gif
    • 实时同步实现多种形式

      • 实时同步可以针对于单库和单表进行按场景选择设置
      • 202006月刊-实时-节点类型.gif
  • 资源组推荐

    • 将复杂的资源组选择和网络配置方案直观的展示给用户,并引导和介绍用户使用方式和场景
    • 202006月刊-1.gif

【DataWorks百问百答更新】

DataWorks百问百答32:如何使用分支节点?

DataWorks百问百答33:数据同步怎么配置ODPS分区?

DataWorks百问百答34:mongoDB同步odps实践时如何使用时间戳筛选数据?

DataWorks百问百答35:有哪些odps spark的主python样例?

DataWorks百问百答36:如何在DataWorks中使用组件(SQL存储过程)实现代码复用?

DataWorks百问百答37:DataWorks-MaxCompute权限体系有哪些混淆点?

DataWorks百问百答38:有哪些阿里云vpc环境数据源与数据集成独享资源组网络打通案例?

DataWorks百问百答39:VPC网络下adb pg实例引擎如何绑定dataworks工作空间执行任务?

DataWorks百问百答40:本地自定义函数UDF如何在DataWorks上使用?

DataWorks百问百答41:DataWorks上如何保护敏感数据?

【产品文档更新】

新增创建EMR Presto节点功能
新增自定义调度资源组
新增管理白名单功能
新增查看和设置报警资源功能
新增同步解决方案功能
新增采集hologres元数据功能

【往期系列】

DataWorks 2020-05 产品月刊
DataWorks 2020-04 产品月刊
DataWorks 2020-03 产品月刊
DataWorks 2020-02 产品月刊
DataWorks 2020-01 产品月刊
DataWorks 2019-12 产品月刊

更多DataWorks技术和产品信息,欢迎加入【DataWorks钉钉交流群】,为您提供最新的产品直播、产品活动及技术支持点击查看

相关实践学习
简单用户画像分析
本场景主要介绍基于海量日志数据进行简单用户画像分析为背景,如何通过使用DataWorks完成数据采集 、加工数据、配置数据质量监控和数据可视化展现等任务。
一站式大数据开发治理平台DataWorks初级课程
DataWorks 从 2009 年开始,十ー年里一直支持阿里巴巴集团内部数据中台的建设,2019 年双 11 稳定支撑每日千万级的任务调度。每天阿里巴巴内部有数万名数据和算法工程师正在使用DataWorks,承了阿里巴巴 99%的据业务构建。本课程主要介绍了阿里巴巴大数据技术发展历程与 DataWorks 几大模块的基本能力。 课程目标  通过讲师的详细讲解与实际演示,学员可以一边学习一边进行实际操作,可以深入了解DataWorks各大模块的使用方式和具体功能,让学员对DataWorks数据集成、开发、分析、运维、安全、治理等方面有深刻的了解,加深对阿里云大数据产品体系的理解与认识。 适合人群  企业数据仓库开发人员  大数据平台开发人员  数据分析师  大数据运维人员  对于大数据平台、数据中台产品感兴趣的开发者
相关文章
|
12天前
|
数据采集 分布式计算 DataWorks
DataWorks产品使用合集之DataWorks 数据集成中的数据源管理和管理空间的数据源之间的关系是怎样的
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
24 0
|
12天前
|
运维 DataWorks 关系型数据库
DataWorks产品使用合集之DataWorks中如何提升运维中心实时同步任务的运行速度
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
25 1
|
12天前
|
SQL JSON 分布式计算
DataWorks产品使用合集之DataWorks一键maxcompute数据同步的操作步骤是什么
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
23 0
|
12天前
|
SQL DataWorks 测试技术
DataWorks产品使用合集之DataWorks如何进行业务流程克隆
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
23 0
|
12天前
|
分布式计算 DataWorks MaxCompute
DataWorks产品使用合集之在DataWorks中,如何进行批量复制操作来将一个业务流程复制到另一个业务流程
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
22 0
|
12天前
|
分布式计算 DataWorks 关系型数据库
DataWorks产品使用合集之在 DataWorks 中,使用Oracle作为数据源进行数据映射和查询,如何更改数据源为MaxCompute或其他类型
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
27 1
|
12天前
|
分布式计算 DataWorks 安全
DataWorks产品使用合集之在 DataWorks 中,如何查看自己已有的权限,申请和交还权限
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
25 0
|
12天前
|
DataWorks 关系型数据库 MySQL
DataWorks产品使用合集之在DataWorks中,如何通过PolarDB for MySQL来查看binlog日志
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
28 1
|
12天前
|
分布式计算 DataWorks NoSQL
DataWorks产品使用合集之DataWorks 集成工具是否支持对 MongoDB 的单字段更新操作
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
22 0
|
12天前
|
分布式计算 运维 DataWorks
DataWorks产品使用合集之DataWorks中可以使用什么来获取某个特定表的特定分区的Instance ID
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
20 0

热门文章

最新文章

  • 1
    DataWorks操作报错合集之DataWorksUDF 报错:evaluate for user defined function xxx cannot be loaded from any resources,该怎么处理
    30
  • 2
    DataWorks操作报错合集之DataWorks任务异常 报错: GET_GROUP_SLOT_EXCEPTION 该怎么处理
    24
  • 3
    DataWorks操作报错合集之在DataWorks中,任务流在调度时间到达时停止运行,是什么原因导致的
    31
  • 4
    DataWorks操作报错合集之DataWorks ODPS数据同步后,timesramp遇到时区问题,解决方法是什么
    26
  • 5
    DataWorks操作报错合集之DataWorks配置参数在开发环境进行调度,参数解析不出来,收到了 "Table does not exist" 的错误,该怎么处理
    25
  • 6
    DataWorks操作报错合集之DataWorks中udf开发完后,本地和在MaxCompute的工作区可以执行函数查询,但是在datawork里报错FAILED: ODPS-0130071:[2,5],是什么原因
    26
  • 7
    DataWorks操作报错合集之DataWorks提交失败: 提交节点的源码内容到TSP(代码库)失败:"skynet_packageid is null,该怎么解决
    32
  • 8
    DataWorks操作报错合集之DataWorks集成实例绑定到同一个vpc下面,也添加了RDS的IP白名单报错:数据源配置有误,请检查,该怎么处理
    27
  • 9
    DataWorks操作报错合集之DataWorks在同步mysql时报错Code:[Framework-02],mysql里面有个json类型字段,是什么原因导致的
    30
  • 10
    DataWorks操作报错合集之在 DataWorks 中运行了一个 Hologres 表的任务并完成了执行,但是在 Hologres 表中没有看到数据,该怎么解决
    24
  • 相关产品

  • 大数据开发治理平台 DataWorks