DataWorks同步任务ES Reader读不到ES为DATE类型的字段;或者发现字段串列,对比源

已解决

DataWorks同步任务ES Reader读不到ES为DATE类型的字段;或者发现字段串列,对比源端和目的端发现是DATE类型的字段没有读过来,导致其他的字段串列。

展开
收起
阿里云服务支持 2022-12-09 11:14:26 313 分享 版权
1 条回答
写回答
取消 提交回答
  • 推荐回答
    官方回答

    原因:ES建索引的时候@timestamp字段没有加dateformart,同步任务Reader也没有配置dateformat,且默认忽略了这个DATE类型的数据导致错位。当ES Reader插件和ES建索引都加了dateformat的时候,ES Reader插件的配置优先级高于ES建索引时的配置。

    解决:同步任务转脚本模式 在ES Reader端和column同级加一下这两个参数"dateFormat":"yyyy-MM-dd HH:mm:ss","allowMissingDateFormat":false。

    2022-12-09 11:29:45
    赞同 展开评论

DataWorks基于MaxCompute/Hologres/EMR/CDP等大数据引擎,为数据仓库/数据湖/湖仓一体等解决方案提供统一的全链路大数据开发治理平台。

收录在圈子:
作为全球云计算的领先者,阿里云为全球230万企业提供着云计算服务,服务范围覆盖200多个国家和地区。我们致力于为企业、政府等组织机构提供安全可靠的云计算服务,给用户带来极速愉悦的服务体验。
还有其他疑问?
咨询AI助理