datax-web配置使用了增量时间变量(-DlastTime='%s' -DcurrentTime='%s'),从datax-web日志中可以看到具体的sql,然后把sql放到mysql执行可以查询出2条数据,但是datax日志显示总数是0或者1,就是会少数据,请问是什么问题呢,如何解决
遇到DataX在执行增量同步时,日志显示的数据总数与直接在MySQL中执行相同SQL查询到的结果不一致,可能是由以下几个原因造成的:
-DlastTime='%s' -DcurrentTime='%s'
中的时间变量。检查DataX配置或脚本中是否正确引用了这些变量,并确认在执行时这些变量被正确替换为了期望的时间戳值。fetchSize
等。解决方法:
fetchSize
以提高一次性读取的数据量。版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。
DataWorks基于MaxCompute/Hologres/EMR/CDP等大数据引擎,为数据仓库/数据湖/湖仓一体等解决方案提供统一的全链路大数据开发治理平台。