开发者社区 > 大数据与机器学习 > 大数据开发治理DataWorks > 正文

请教下,补数的时候,cystime还是不是bizdate+1天呢?

请教下,补数的时候,cystime还是不是bizdate+1天呢?

展开
收起
十一0204 2023-04-11 21:21:42 285 0
3 条回答
写回答
取消 提交回答
  • 值得去的地方都没有捷径

    在DataWorks中,补数时"cyctime"的值通常是根据"bizdate"计算得出的。"bizdate"是业务日期,表示数据处理的日期,通常是数据的时间戳。而"cyctime"是数据的采集时间,通常是数据入库的时间戳。在补数时,为了保证数据的完整性和正确性,通常需要将"cyctime"设置为"bizdate+1天",即采集时间为业务日期的下一天。这样可以避免补数数据与已有数据的时间戳重叠,同时也可以保证补数数据的时间戳与业务日期相对应。需要注意的是,具体的补数方式和"cyctime"的设置方法可能会因不同的数据源和业务场景而有所不同,需要根据实际情况进行相应的设置和调整。

    2023-04-15 16:00:03
    赞同 展开评论 打赏
  • 意中人就是我呀!

    对的 是这样的。 此答案整理自钉群“DataWorks交流群(答疑@机器人)”

    2023-04-12 10:17:50
    赞同 展开评论 打赏
  • 坚持这件事孤独又漫长。
    • 补数据时使用的是bizdate来计算cystime。bizdate是外部传入的日期,通常是业务日期。而cystime是ODPS中的系统时间,会受到系统时钟误差、处理延迟等因素的影响。

    • 因此,为了保证数据补偿的准确性,我们通常使用bizdate来计算cystime,而不是简单地加上一天。

    • 具体而言,补数据时可以通过设置延迟时间(offset)来控制cystime的计算方式。例如,如果要补偿2023年4月9日的数据,可以将offset设置为1天,将bizdate设置为2023年4月10日,系统会自动计算出cystime为2023年4月10日的0时0分0秒。

    2023-04-11 22:40:23
    赞同 展开评论 打赏

DataWorks基于MaxCompute/Hologres/EMR/CDP等大数据引擎,为数据仓库/数据湖/湖仓一体等解决方案提供统一的全链路大数据开发治理平台。

热门讨论

热门文章

相关电子书

更多
低代码开发师(初级)实战教程 立即下载
冬季实战营第三期:MySQL数据库进阶实战 立即下载
阿里巴巴DevOps 最佳实践手册 立即下载