DataWorks云产品试用体验

本文涉及的产品
大数据开发治理平台DataWorks,Serverless资源组抵扣包300CU*H
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
简介: 大家好,我是V哥。DataWorks是阿里云提供的大数据开发治理平台,涵盖数据采集、存储、开发、治理、分析和可视化全生命周期。其图形化界面简化开发流程,分布式架构提升处理速度,适合非专业人员使用。尽管存在一定的学习曲线,但凭借强大的云计算资源和开放性,DataWorks展现出卓越的性能和稳定性,助力企业高效处理大数据,支持业务决策与优化。欢迎关注威哥爱编程,一起探索全栈之路。

大家好,我是 V 哥。DataWorks 是阿里云提供的大数据开发治理平台,它集成了多种大数据引擎,提供了从数据采集、存储、开发、治理到分析和可视化的全生命周期解决方案。以下是对 DataWorks 的详细评测:

  1. 任务开发便捷性
    DataWorks 在任务开发方面表现出色,其图形化的开发界面和丰富的组件库极大地简化了开发流程。无论是创建数据同步任务、ETL任务还是数据分析任务,都可以通过简单的拖拽和参数配置完成,无需编写大量的代码,大大提高了开发效率,尤其适合非专业开发人员使用。

  2. 任务运行速度
    在处理大规模数据集时,DataWorks 展现出了出色的性能表现。其分布式计算架构和优化的执行引擎能够快速地完成复杂的数据处理任务,确保数据的及时性和可用性。在实际测试中,对于千万级别的数据记录进行复杂的聚合和分析操作,任务执行时间在可接受的范围内,满足了企业对于大数据处理的高效要求。

  3. 产品使用门槛
    尽管 DataWorks 在努力降低使用难度,但对于一些没有技术背景的业务人员来说,仍然存在一定的学习曲线。特别是在理解一些数据处理的概念和技术原理时,可能需要花费更多的时间进行学习和实践。建议官方提供更多面向业务人员的培训课程和案例教程,帮助他们更好地掌握产品的使用方法。

  4. 功能完整性
    DataWorks 提供了从数据采集、存储、开发、治理到分析和可视化的全生命周期解决方案,各个环节紧密集成,形成了一个完整、高效的数据处理生态系统。相比之下,开源工具虽然在某些特定领域具有优势,但往往需要用户自行整合多个组件才能实现完整的数据处理流程,增加了使用的复杂性和维护成本。商业工具虽然功能也较为全面,但通常价格昂贵,且定制化程度相对较低。

  5. 易用性
    DataWorks 的界面设计简洁、直观,操作流程清晰易懂,即使是没有深厚技术背景的用户也能够快速上手。其可视化的任务编排和监控界面,使得数据处理过程一目了然,大大降低了用户的学习成本和操作难度。而开源工具的使用往往需要用户具备一定的技术能力和编程经验,学习曲线较为陡峭。商业工具的操作界面则相对复杂,定制化程度高,不易于初学者使用。

  6. 性能表现
    依托阿里云强大的云计算资源和优化的架构设计,DataWorks 在处理大规模数据时展现出了卓越的性能和稳定性。无论是数据的读写速度、计算效率还是任务的执行时间,都能够满足企业对于大数据处理的高性能要求。

  7. 开放性与集成度
    DataWorks 具有良好的开放性,能够与多种数据源和其他阿里云服务进行无缝集成,方便用户构建灵活的数据架构和应用场景。同时,它还支持第三方插件的扩展,用户可以根据自己的需求选择合适的插件进行功能增强,进一步提升了产品的灵活性和适用性。

下面来一起使用一下 DataWorks 平台。

DataWorks 产品使用

使用步骤

  1. 创建工作空间并绑定资源组:登录 DataWorks 管理控制台,创建工作空间并绑定资源组。

image.png

image.png

image.png

  1. 数据同步:创建数据源,接入数据来源和数据去向,创建离线同步任务,将业务数据同步至大数据计算平台。

image.png

创建数据源:

image.png

image.png

  1. 数据清洗:在数据开发模块中,对业务数据进行处理、分析和挖掘。

image.png

  1. 数据展示:在数据分析模块中,将分析结果转化为图表,便于业务人员理解。
  1. 周期性调度:为数据同步和数据清洗流程配置周期性调度,使其定时执行。

阿里电商数据集案例

本数据集来源天池阿里移动推荐算法挑战赛,基于阿里巴巴100万条脱敏的商品数据,可以基于各类商品、操作、时间等字段,体验阿里云大数据分析能力。

image.png

示例:不同时间段的页面访问次数

本示例基于阿里电商数据集,以4小时为基础将全天时间划分为6个时间段,筛选所有用户行为中的下单行为,统计全天时间段用户最活跃的下单时间并排序。

-- 如果您未开启租户级别Schema语法,需要在运行query前通过session flag的方式设置。
SET odps.namespace.schema = true
;

----本示例可以基于阿里电商数据集统计不同时间段的页面访问次数。
SELECT  CASE    WHEN CAST(SUBSTR(behavior_time,12) AS BIGINT) >= 0
                    AND CAST(SUBSTR(behavior_time,12) AS BIGINT) <= 3 THEN '00点-03点'
                WHEN CAST(SUBSTR(behavior_time,12) AS BIGINT) >= 4
                    AND CAST(SUBSTR(behavior_time,12) AS BIGINT) <= 7 THEN '04点-07点'
                WHEN CAST(SUBSTR(behavior_time,12) AS BIGINT) >= 8
                    AND CAST(SUBSTR(behavior_time,12) AS BIGINT) <= 11 THEN '08点-11点'
                WHEN CAST(SUBSTR(behavior_time,12) AS BIGINT) >= 12
                    AND CAST(SUBSTR(behavior_time,12) AS BIGINT) <= 15 THEN '12点-15点'
                WHEN CAST(SUBSTR(behavior_time,12) AS BIGINT) >= 16
                    AND CAST(SUBSTR(behavior_time,12) AS BIGINT) <= 19 THEN '16点-19点'
                WHEN CAST(SUBSTR(behavior_time,12) AS BIGINT) >= 20
                    AND CAST(SUBSTR(behavior_time,12) AS BIGINT) <= 23 THEN '20点-23点'
        END AS 时间段
        ,COUNT(1) AS 页面访问次数
FROM    bigdata_public_dataset.commerce.commerce_ali_e_commerce
WHERE   behavior_type = '1'
GROUP BY 时间段
ORDER BY 时间段 ASC
LIMIT   100
;

分析结果:

image.png

小结

DataWorks 是一个功能完整、易用性强、性能优异的大数据开发治理平台,适合企业高效处理和分析大数据,助力决策制定和业务优化。欢迎关注威哥爱编程,全栈之路,我们一起坚持到底。

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
一站式大数据开发治理平台DataWorks初级课程
DataWorks 从 2009 年开始,十ー年里一直支持阿里巴巴集团内部数据中台的建设,2019 年双 11 稳定支撑每日千万级的任务调度。每天阿里巴巴内部有数万名数据和算法工程师正在使用DataWorks,承了阿里巴巴 99%的据业务构建。本课程主要介绍了阿里巴巴大数据技术发展历程与 DataWorks 几大模块的基本能力。 课程目标 &nbsp;通过讲师的详细讲解与实际演示,学员可以一边学习一边进行实际操作,可以深入了解DataWorks各大模块的使用方式和具体功能,让学员对DataWorks数据集成、开发、分析、运维、安全、治理等方面有深刻的了解,加深对阿里云大数据产品体系的理解与认识。 适合人群 &nbsp;企业数据仓库开发人员 &nbsp;大数据平台开发人员 &nbsp;数据分析师 &nbsp;大数据运维人员 &nbsp;对于大数据平台、数据中台产品感兴趣的开发者
相关文章
|
数据采集 DataWorks 负载均衡
DataWorks 2021-07 产品月刊
本月DataWorks产品月刊为您带来 产品活动: 1.首月特惠!DataWorks专业版首月仅需199元,省4801元;独享数据集成/调度资源组首月5折 2.「数据地图」开放用户体验问卷啦,快来参与吧 产品功能更新: DataWorks数据治理模块新增审批中心,可自定义审批流程 独享数据服务资源组上线杭州region DataWorks迁移助手8.1日正式商业化 DataWorks支持DLF元数据采集 DataWorks支持任务下发EMR gateway节点
DataWorks 2021-07 产品月刊
|
SQL 运维 分布式计算
DataWorks 2021-06 产品月刊
本月DataWorks产品月刊为您带来 产品活动: 1.首月特惠!DataWorks专业版原价5000元现首月特惠仅需199元;独享数据集成/调度资源组首月5折 产品功能更新: 1.数据集成首页改版 2.DataWorks支持EMR实时任务开发运维 3.EMR数据开发任务一键迁移DataWorks 4.DataWorks安全模式绑定EMR集群支持LDAP认证 5.数据服务支持MaxCompute数据源封装API 6.DataWorks新增报警联系人中心 7.运维中心新增资源运维,支持独享资源组水位监控
DataWorks 2021-06 产品月刊
|
数据采集 SQL 分布式计算
DataWorks 2021-12 产品月刊
本月DataWorks产品月刊为您带来 【产品活动】 1. 首月特惠!DataWorks专业版原价5000元现首月特惠仅需199元>> 立即前往>> 2. 首月特惠!独享数据集成/独享调度资源组首月5折>> 立即前往>>
|
SQL 存储 运维
DataWorks 2021-11 产品月刊
1、数据开发新增资源组编排功能 2、数据集成HDFS Reader和HDFS Writer增加向导开发模式。
|
自然语言处理 DataWorks 数据建模
DataWorks 2021-10 产品月刊
本月DataWorks产品月刊为您带来:1、数据开发新增代码搜索功能;2、数据建模新增命名词典、逆向建模功能;3、DataWorks发布中心公测中
1011 0
|
SQL 数据采集 存储
DataWorks 2021-09 产品月刊
本月DataWorks产品月刊为您带来:1、数据治理中心全新发布。2、数据服务API资产全面纳入数据地图管理范畴。3、DataStudio支持用户通过扩展程序对页面功能进行卡点
1050 0
|
存储 分布式计算 DataWorks
DataWorks 2020-12 产品月刊
本月DataWorks产品月刊为您带来 产品活动 1.参与阿里云DataWorks问卷调研 (AliyunUR),赢200元DataWorks无门槛代金券 2.首月特惠!DataWorks专业版原价5000元现仅需199元;独享数据集成/调度资源组首月5折 3.夺宝计划火热进行中,完成任务即可领取定制礼包 产品功能更新 1. 一键同步Elasticsearch,DataWorks数据集成MySQL同步到ElasticSearch解决方案上线 2. DataWorks数据建模(DDM)公测啦 3.DataWorks支持CDH(Cloudera Distribution Hadoop)重磅发布
1062 0
|
SQL 数据采集 存储
DataWorks 2020-06 产品月刊
本月DataWorks产品月刊为您带来 产品活动:1.限时折扣!DataWorks专业版原价5000元现仅需199元;独享数据集成资源组首月5折 产品功能更新: 1.新增DataWorks首页,帮助新用户快速了解DataWorks的产品定位及使用场景,降低学习成本 2.资源优化模块正式商业化,专业版以上可用 3.数据地图支持MySQL、Hologres、ADB等多种数据类型元数据采集 4.独享资源组支持自定义路由功能 5.数据集成6月新功能 DataWorks百问百答32-41更新
2376 0
DataWorks 2020-06 产品月刊
|
机器学习/深度学习 分布式计算 DataWorks
DataWorks 2020-05 产品月刊
本月DataWorks产品月刊为您带来 1.2020云峰会直播回顾 2.618年中折扣!DataWorks专业版原价5000元现仅需199元;独享数据集成资源组首月5折 3.编辑电子表格功能更新 4.DataWorks百问百答22-31更新
1429 0
DataWorks 2020-05 产品月刊
|
SQL 运维 DataWorks
DataWorks 2021-05 产品月刊
产品活动: 1.数据集成开放用户体验调研问卷啦!赶紧开启吐槽模式吧 2.首月特惠!DataWorks专业版原价5000元现飞天会员618特惠仅需99元; 产品功能更新: DataWorks数据集成新增实时同步至AnalyticDB MySQL 3.0的功能; 开放消息服务(Open Message)开启公测,支持订阅DataWorks中的元数据及任务变更事件,可实现DataWorks与您的自有系统的深度集成; 任务调度新增年周期和月末最后一天周期,可实现按年、按季度、按指定月最后一天的周期调度; ......