开发者社区 > 大数据与机器学习 > 大数据开发治理DataWorks > 正文

需要把当天30分钟的任务所有节点产生的数据合并为当天(形成依赖关系),还是依然 单独跑一个按天的任务

有30分钟(一天48个节点),也有单独跑天的任务。问题就是 ,需要把当天30分钟的任务所有节点产生的数据合并为当天(形成依赖关系),还是依然 单独跑一个按天的任务?

展开
收起
游客6vdkhpqtie2h2 2022-09-06 23:17:21 297 0
1 条回答
写回答
取消 提交回答
  • 如果您需要将当天 30 分钟的所有节点产生的数据合并为当天,而这些数据之间也有依赖关系,那么最好单独跑一个按天的任务来处理这些数据的合并,以确保数据处理的正确性和完整性。

    这可能需要您重新设计您的系统架构和算法,以便能够有效地处理这些数据。一种可行的方法是在当天的全部任务结束后,通过一个专门的合并任务来处理它们产生的数据,并形成正确的依赖关系。通过这种方式,您可以确保数据的完整性和正确性。

    您也可以考虑使用一些数据处理工具来帮助您完成数据的合并和依赖关系的管理,例如 Apache Flink、Apache Spark 等。这些工具可以帮助您高效地处理大规模数据,并形成正确的依赖关系。

    2023-05-17 14:43:42
    赞同 展开评论 打赏

DataWorks基于MaxCompute/Hologres/EMR/CDP等大数据引擎,为数据仓库/数据湖/湖仓一体等解决方案提供统一的全链路大数据开发治理平台。

热门讨论

热门文章

相关电子书

更多
十分钟上线-使用函数计算构建支付宝小程序服务 立即下载
低代码开发师(初级)实战教程 立即下载
阿里巴巴DevOps 最佳实践手册 立即下载