开发者社区 > 大数据与机器学习 > 大数据开发治理DataWorks > 正文

各位大佬,有人知道如何配置生产环境自动调度后的调度参数吗

各位大佬,有人知道如何配置生产环境自动调度后的调度参数吗

展开
收起
游客242jp2lsd3dac 2023-04-11 17:50:00 436 0
3 条回答
写回答
取消 提交回答
  • 公众号:网络技术联盟站,InfoQ签约作者,阿里云社区签约作者,华为云 云享专家,BOSS直聘 创作王者,腾讯课堂创作领航员,博客+论坛:https://www.wljslmz.cn,工程师导航:https://www.wljslmz.com

    在DataWorks中,您可以通过以下步骤配置生产环境自动调度后的调度参数:

    1. 进入您的工作空间,在左侧导航栏中选择“运维中心”>“周期任务”。
    2. 在周期任务页面中,找到您要配置的调度任务,并单击该任务所在行的“编辑”按钮。
    3. 在编辑页面中,单击“调度配置”选项卡,在该选项卡下您可以看到调度配置信息。
    4. 找到“生产环境参数配置”选项卡,单击该选项卡进入生产环境参数配置页面。
    5. 在生产环境参数配置页面中,您可以设置生产环境下的调度参数,包括调度日期、调度时间、调度延迟等。您还可以为不同的生产环境设置不同的调度参数。
    2023-04-27 23:15:27
    赞同 展开评论 打赏
  • 值得去的地方都没有捷径

    您好,具体的配置方法会根据您所使用的调度工具和环境而有所不同。一般来说,您可以通过以下步骤来配置生产环境自动调度后的调度参数:

    确定您所使用的调度工具和环境,例如 Apache Airflow、Kubernetes、Docker 等。

    根据您的需求,设置相应的调度参数,例如任务执行时间、执行频率、任务依赖关系等。

    在调度工具中创建一个生产环境的任务,并将您所设置的调度参数应用到该任务中。

    部署该任务到生产环境中,并监控其运行情况,及时调整参数以保证任务的正常运行。

    需要注意的是,生产环境的自动调度涉及到数据安全、稳定性等重要问题,因此在配置调度参数时需要谨慎处理,避免出现数据丢失、任务失败等情况。

    2023-04-16 10:22:48
    赞同 展开评论 打赏
  • 节点配置调度参数并发布生产环境自动调度后,调度系统会根据任务运行的业务时间自动替换调度参数的取值。但在数据开发界面测试运行时不经过调度系统,所以直接点击运行或高级运行时需要给代码中的引用的调度参数手动赋值。 例如,使用调度参数bdp.system.bizdate时,调度运行任务时此参数会被替换为当前任务运行的具体的业务时间,但是在数据开发页面通过运行按钮调测代码时,bdp.system.bizdate参数不会替换为业务时间,您需要手动为此参数设置一个具体的时间常量数据,详情可参见开发环境测试调度参数。在数据开发页面测试调度参数的替换情况,请务必使用开发环境冒烟测试。详情可参见开发环境测试调度参数。如果您变更了代码中的变量,或者需要重新为变量赋值常量,请务必使用高级运行。 使用高级运行时,每次运行前均需要为代码中的变量赋值常量,可保障每次运行时代码中的变量取值均为正确的赋值取值。而使用运行时,仅第一次运行时有弹窗出现需要您为变量赋值,后续运行时均不会弹出赋值弹窗,取用第一次的赋值取值,可能会导致取值错误。unknown参数与$[…]参数的用法注意事项:取N小时前、N分钟前的时间数据需用$[…]参数。 unknown参数只能精确到年月日,因此unknown参数不支持unknown等用法。需要精确到秒时,建议使用$[…]参数,例如,$[yyyy-mm-dd-1-1/24]。取N年前、N月前的时间数据需用unknown参数。 $[…]参数不支持$[yyyy-N]、$[mm-N]等这种直接进行年月数据计算的用法。如果需要对年份、月份进行计算,建议使用unknown参数,例如,unknown、unknown。此回答整理自钉群DataWorks交流群(答疑@机器人)

    2023-04-11 18:21:54
    赞同 展开评论 打赏

DataWorks基于MaxCompute/Hologres/EMR/CDP等大数据引擎,为数据仓库/数据湖/湖仓一体等解决方案提供统一的全链路大数据开发治理平台。

热门讨论

热门文章

相关电子书

更多
低代码开发师(初级)实战教程 立即下载
冬季实战营第三期:MySQL数据库进阶实战 立即下载
阿里巴巴DevOps 最佳实践手册 立即下载