大数据开发治理DataWorks

本月DataWorks产品月刊为您带来 产品活动： 1.首月特惠！DataWorks专业版原价5000元现首月特惠仅需199元；独享数据集成/调度资源组首月5折 产品功能更新： 1.数据集成首页改版 2.DataWorks支持EMR实时任务开发运维 3.EMR数据开发任务一键迁移DataWorks 4.DataWorks安全模式绑定EMR集群支持LDAP认证 5.数据服务支持MaxCompute数据源封装API 6.DataWorks新增报警联系人中心 7.运维中心新增资源运维，支持独享资源组水位监控

DataWorks迁移助手将在2021年8月1日开启商业化

本系列文章为DataWorks钉钉大群内熟能生巧系列直播的文字版，基本涵盖了直播中讲解到的大部分内容，大家可以学习或者Mark一下，有需要的时候再来回顾。本系列直播内容由DataWorks技术支持团队出品，运营团队整理，大部分是DataWorks用户实际使用中遇到的频率较高的问题，希望对大家有一定帮助。

本系列文章为DataWorks钉钉大群内熟能生巧系列直播的文字版，基本涵盖了直播中讲解到的大部分内容，大家可以学习或者Mark一下，有需要的时候再来回顾。本系列直播内容由DataWorks技术支持团队出品，运营团队整理，大部分是DataWorks用户实际使用中遇到的频率较高的问题，希望对大家有一定帮助。

企业大数据技术发展至今，历经了两次蜕变。第一次蜕变从最初的“小作坊”解决大数据问题，到后来企业用各类大数据技术搭建起属于自己的“大平台”，通过平台化的能力完成数据生产力的升级。 第二次蜕变让大数据从“大平台”向“敏捷制造”的开发范式演进。在2021阿里云峰会上，阿里巴巴集团副总裁、阿里云智能计算平台事业部高级研究员贾扬清发布基于DataWorks的一站式大数据开发治理的平台，就是这个蜕变最好的佐证。

本系列文章为DataWorks钉钉大群内熟能生巧系列直播的文字版，基本涵盖了直播中讲解到的大部分内容，大家可以学习或者Mark一下，有需要的时候再来回顾。本系列直播内容由DataWorks技术支持团队出品，运营团队整理，大部分是DataWorks用户实际使用中遇到的频率较高的问题，希望对大家有一定帮助。

DataWorks提供任务搬站功能，支持将开源调度引擎Oozie、Azkaban、Airflow的任务快速迁移至DataWorks。本文主要介绍如何将开源Airflow工作流调度引擎中的作业迁移至DataWorks上

DataWorks迁移助手提供任务搬站功能，支持将开源调度引擎Oozie、Azkaban、Airflow的任务快速迁移至DataWorks。本文主要介绍如何将开源Azkaban工作流调度引擎中的作业迁移至DataWorks上。

DataWorks作为飞天大数据平台操作系统，历经11年发展，形成了涵盖数据集成、数据开发、数据治理、数据服务的一站式大数据开发治理平台。很多企业用户在使用产品的过程中希望他们的本地服务能够和阿里云上的DataWorks服务进行交互，从而提升企业大数据处理的效率，减少人工操作和运维工作，降低数据风险和企业成本，现在DataWorks开放OpenAPI能力满足企业的定制化需求。 DataWorks OpenAPI涵盖租户、元数据、数据开发、运维中心、数据质量、数据服务等DataWorks核心能力，企业版和旗舰版分别赠送100万次/月、1000万次/月的免费调用额度。

DataWorks数据服务独享资源组能够保障数据服务API调用的成功率，满足高QPS、高并发、高频率的接口调用并及时返回数据结果。 数据服务独享资源组正逐步灰度上线公共云，目前面向北京region开通DataWorks产品的用户提供了公测活动。 欢迎北京、深圳region的用户报名开通数据服务独享资源组的限时测试，名额有限，先到先得，不容错过！ 如需报名参加限时测试活动，请您申请加入钉钉群“DataWorks数据服务独享资源组限时公测报名群”，群号：35871311。

DataWorks采购季折扣一览。专业版新购首月仅需199元，低至0.4折！

本文将会介绍如何通过使用DataWorks OpenAPI、DataWorks开放元数据、DataWorks开放事件消息三大利器搭建企业自己的DataWorks运维大屏。其中DataWorks OpenAPI已经面向所有企业开放商业化，而DataWorks开放元数据、DataWorks开放事件消息还在邀测中。

随着大数据在企业内部使用越来越广泛，很多业务落地慢慢的都依赖大数据的产出结果做为基础，业务的发展遍地开花产生了越来越多的任务，这些任务之间相互依赖也就越来越复杂，慢慢的超过人为可视、可梳理范围；当上游的数据口径发生变更的时候，对下游业务的影响就会形成放射性，影响难以预料，这时候就急需有一种功能来辅助我们的运维人员一起梳理出整个受影响的业务范围，以防数据口径不一致引起资损、或提供错误的数据导致决策失误。

3.1 资产总览： odps项目数量， 表数量，分区表数量，表总大小 3.2 资产分布 按工作空间划分、按所有者划分 3.2(b) 资产分布 按工作空间(名称)划分、按所有者(nick)划分

数据建模是数据标准化的核心内容，企业在搭建自己的数据平台时需要先建设适合公司业务的数据模型。好的数据模型可以帮助企业构建合理的数据基础结构，帮助企业少走弯路，节省长期开发成本。 本次阿里云DataWorks数据建模公开课邀请到Datablau创始人&CEO王琤老师为大家带来数据建模系列讲座，内容涵盖数据建模基本知识和企业级标准、架构与模型设计，以及阿里云DataWorks数据中台模型管理平台解决方案。

从2020年10月份起DataWorks为企业版提供了API的能力，我们可以根据现有的API能力打通应用与离线数据加工，从而让大数据能直接为在线应用服务，本篇文章使用圈人功能做一个简单的介绍实现；

工欲善其数，必先利其器。通过DataWorks OpenAPI 功能，可以快速进行批量操作与系统集成对接，助您显著提升数据开发效率！（DataWorks OpenAPI限企业版及以上版本使用）

DataWorks作为飞天大数据平台操作系统，历经11年发展，形成了涵盖数据集成、数据开发、数据治理、数据服务的一站式大数据开发治理平台。很多企业用户在使用产品的过程中希望他们的本地服务能够和阿里云上的DataWorks服务进行交互，从而提升企业大数据处理的效率，减少人工操作和运维工作，降低数据风险和企业成本，现在DataWorks开放OpenAPI能力满足企业的定制化需求。

企业的实时数据除了存储在大数据引擎中，还有很多非结构化的日志数据，通过阿里云的Elasticsearch，用全托管的方式提供低成本的冷热存储方案，轻松助力企业搭建统一的云上全观测运维监控平台，实现海量数据的实时监控分析，提高自动化运维管理效率。DataWorks数据集成提供了 “MySQL一键实时同步至Elasticsearch” 的解决方案，可以将MySQL中的数据库，通过一次性的简单配置，全增量一体化同步到Elasticsearch，达到数据实时落入ElasticSearch，实时可以用于分析的效果。也可以将MySQL数据库离线全量或者增量搬迁到Elasticsearch中

数据集成报错归类

DataWorks学习路径

本文详述了58到家业务上的难点和挑战，包括在智能营销、到店分流和登记、多元匹配、销售、业务与社会安全等方面，以及他们是如何通过阿里云大数据平台去应对家庭服务行业在互联网化过程当中的痛点和挑战。

本篇内容主要分三个部分，在第一部分讲一下实时计算在推荐业务中的使用场景。第二部分讲一下小红书是怎么使用Flink的一些新的功能。第三部分主要是讲一些OLAP的实时分析的场景，以及和阿里云MC-Hologres的合作。

本文讲述了宝宝树通过阿里云大数据平台构建了个性化的大数据架构，并在此基础上使用AI和深度学习技术实现了一些业务工具，进而支撑业务展开，实现业务价值。

快狗打车原名58速运，是同城即时货运平台。目前支持拉货、搬家和运东西等一些业务。本文讲述了快狗打车上云的缘由，如何平滑地、客户无感知地上云以及上云给快狗打车带来的价值。

本次分享包含4个部分，第一个是批批网的介绍，第二个是曲折的搜索之路，第三搜索之路柳暗花明，也就是我们使用了OpenSearch之后，我们得到了哪些好处。第四，搜索之路未来可期。

本文讲述了微博机器学习平台和深度学习平台的业务功能和云上实践，剖析了阿里云大数据在微博这两大学习平台的架构建设上所起到的作用。

本文讲述了在电商新零售行业下，电商服务商爱用科技如何借助Elasticsearch，应对在业务系统中的大规模交易订单数据管理，以及全观测日志运维场景下的痛点和挑战，为其百万电商商家用户提供稳定高效的商家服务。

本文主要会分享三个方面的内容，由小红书反作弊的策略和算法负责人 汪浩然讲讲他和阿里风控的故事、阿里云的风控产品赋能以及阿里的机器学习平台赋能，最后介绍一下智能风控以及智能风控依靠的云计算能力。

上海数禾信息科技有限公司是一家拥有小贷牌照和融资担保牌照的金融科技公司（下称“数禾科技”），公司的核心产品是“还呗”。本文要分享的主题是数禾科技如何在云上构建和管理数据湖。

亲宝宝以MaxCompute的计算和存储能力为依托，构建了整个大数据链路，数据源包括了APP的埋点、Nginx、CDN。使用阿里云的日志服务、流计算、函数计算、DTS等将数据导入到MaxCompute中，在MaxCompute进行数据加工，在这个基础上快速构建用户圈选、BI报表、机器学习和个性化推荐等相关应用。

本文由易点天下CTO 王一舟讲述Yeahmobi作为一家全球化的智能营销服务商所遇到的挑战和大数据在应对这些挑战时所发挥的作用。

文章作者：许日（欢伯），在2016年盒马早期的时候，转到盒马事业部作为在线数据平台的研发负责人，现任阿里云计算平台DataWorks建模引擎团队负责人。 文章简介：本篇文章向大家分享新零售企业如何基于DataWorks搭建数据中台，从商业模式及业务的设计，到数据中台的架构设计与产品选型，再到数据中台搭建的最佳实践，最后利用数据中台去反哺业务，辅助人工与智能的决策。 内容贡献：李启平（首义），盒马从初创至今的数据研发负责人，有非常资深的数仓及数据中台建设的经验，原阿里巴巴国际业务数仓负责人。