开发者社区 > 大数据与机器学习 > 大数据开发治理DataWorks > 正文

自研的调度系统的作业和表,有什么办法可以一键迁移过去到dataworks呢?

自研的调度系统的作业和表,有什么办法可以一键迁移过去到dataworks呢?

展开
收起
真的很搞笑 2023-11-20 07:50:37 59 0
4 条回答
写回答
取消 提交回答
  • 一般是通过迁移助手迁移 可以参考看下,迁移助手,此回答整理自钉群“DataWorks交流群(答疑@机器人)”

    2023-11-20 21:11:23
    赞同 展开评论 打赏
  • 最佳实践:集成第三方调度系统https://help.aliyun.com/zh/dataworks/user-guide/best-practices-for-integrating-a-third-party-scheduling-system-with-the-dataworks-scheduling-system?spm=a2c4g.11186623.0.i339

    ataWorks的开放平台为您提供OpenEvent、OpenAPI等开放能力,您可通过开放平台将第三方调度系统集成到DataWorks的调度系列中,将三方调度系统的任务嵌入DataWorks的业务流程中。本文以一个示例为您介绍集成第三方调度系统时需要进行的配置要点。
    360a9d1c0927c7978491ad9ba0444784_p558877.png

    集成三方调度系统后,整体的任务运行流程如下。
    三方调度系统可通过DataWorks的OpenEvent功能,订阅依赖的DataWorks节点的状态,当依赖的节点运行完成后,即可开始运行三方调度系统中的任务。
    当三方系统中的任务运行完成后,即可通过DataWorks的RunTriggerNode这个API触发运行DataWorks的HTTP触发节点,通过HTTP触发节点触发下游的DataWorks节点开始运行。
    https://help.aliyun.com/zh/dataworks/user-guide/best-practices-for-integrating-a-third-party-scheduling-system-with-the-dataworks-scheduling-system?spm=a2c4g.11186623.0.i339

    2023-11-20 14:28:04
    赞同 展开评论 打赏
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    要将自研的调度系统的作业和表迁移至 DataWorks,可以采取以下几种方法:

    1. 手动重新创建作业和表:如果您熟悉 DataWorks 的操作流程,可以尝试手动重新创建现有的作业和表。您可以根据现有调度系统的作业定义,将作业和表的内容手动复制到 DataWorks 中。
    2. 使用第三方工具:市面上有一些第三方工具可以自动迁移作业和表,您可以查找一些第三方迁移工具,看看是否有适合您的解决方案。
    3. 自动化脚本:如果您有一定的编程能力,也可以尝试编写自动化脚本来完成迁移工作。您可以编写一些脚本来抓取现有的作业和表内容,并将它们导入 DataWorks 中。
    4. 使用 DataWorks 的迁移助手:DataWorks 迁移助手是一款用于快速迁移 DataWorks 上开发成果的产品,支持迁移的对象有:表、SQL 作业、调度作业、分析任务、实时任务、元数据等。您可以试一下这个工具。
    2023-11-20 14:08:51
    赞同 展开评论 打赏
  • DataWorks提供了任务搬站功能,支持将开源调度引擎Oozie、Azkaban、Airflow的任务迁移至DataWorks。该功能不仅支持Airflow,还支持其他开源工作流调度引擎到DataWorks的大数据开发任务迁移。

    具体的迁移流程如下:首先,通过迁移助手调度引擎作业导出能力,将开源调度引擎中的作业导出。然后,将这些作业和表配置到DataWorks中。同时,DataWorks也支持批量任务迁移,能够将原始数据加工任务的定义、配置和调度信息从源环境或系统中导出,并将其迁移到目标环境或系统。

    2023-11-20 09:51:42
    赞同 展开评论 打赏

DataWorks基于MaxCompute/Hologres/EMR/CDP等大数据引擎,为数据仓库/数据湖/湖仓一体等解决方案提供统一的全链路大数据开发治理平台。

相关产品

  • 大数据开发治理平台 DataWorks
  • 热门讨论

    热门文章

    相关电子书

    更多
    DataWorks数据集成实时同步最佳实践(含内测邀请)-2020飞天大数据平台实战应用第一季 立即下载
    DataWorks调度任务迁移最佳实践-2020飞天大数据平台实战应用第一季 立即下载
    基于DataWorks数据服务构建疫情大屏-2020飞天大数据平台实战应用第一季 立即下载

    相关实验场景

    更多