AI 助理
备案控制台
开发者社区 大数据与机器学习 大数据开发治理DataWorks 正文

DataWorks中oceanbase离线同步，每日增量的过滤规则应该怎么写， 同样的语句在ob中?

DataWorks中oceanbase离线同步，每日增量的过滤规则应该怎么写， 同样的语句在ob中执行没问题，发布到线上并没有生效？image.png

展开
收起
真的很搞笑 2023-08-07 20:34:59 98 分享 版权

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

2 条回答
写回答
取消 提交回答
  • 算精通
    北京阿里云ACE会长

    对于DataWorks中OceanBase离线同步的每日增量过滤,建议的写法为:

    对要同步的主表设置更新时间字段,命名为updated_at。

    每次同步任务执行时,获取上次同步完成的时间点last_sync_time。可以使用参数或变量存储。

    构造WHERE条件针对updated_at字段,只同步更新时间晚于last_sync_time 的数据:

    sql
    Copy
    where updated_at > '{{last_sync_time}}'
    同步结束后,更新last_sync_time为本次同步的结束时间。

    2023-08-09 17:37:21
    赞同 展开评论
  • 芯在这

    bizdate的调度参数 在右侧调度配置中定义了么，此回答整理自钉群“DataWorks交流群(答疑@机器人)”

    2023-08-08 21:46:14
    赞同 展开评论
问答分类：
DataWorks OceanBase 大数据开发治理平台 DataWorks
问答标签：
大数据开发治理平台 DataWorks同步 云数据库OceanBase ob 大数据开发治理平台 DataWorks增量 大数据开发治理平台 DataWorks离线 云数据库OceanBase增量
问答地址：
开发者社区 > 大数据与机器学习 > 大数据开发治理DataWorks > 问答
相关问答
DataWorks
OceanBase Canal 和 Flink CDC 拉取 OceanBase 增量日志上有什么？
143
1
0
Flink CDC OceanBase Connector 如何处理全量数据和增量数据？
109
1
0
Flink CDC 如何处理从 OceanBase 拉取到的增量数据？
76
1
0
OceanBase 提供了哪些组件或方式用于增量数据的获取？
82
1
0
Flink CDC OceanBase Connector 是如何实现数据增量的拉取的？
81
1
0
DataWorks生成的任务个数的规则是什么，能自己配置切分后的任务数量吗？
90
2
0
OceanBase Canal 和Flink CDC在拉取Ocean Base增量日志上有什么不同？
157
1
0
Flink CDC OceanBase Connector 如何处理全量数据和增量数据？
108
1
0
Flink CDC 如何处理从 OceanBase 拉取到的增量数据？
76
1
0
OceanBase 提供了哪些组件或方式用于增量数据的获取？
83
1
0
大数据与机器学习

大数据开发治理DataWorks

DataWorks基于MaxCompute/Hologres/EMR/CDP等大数据引擎，为数据仓库/数据湖/湖仓一体等解决方案提供统一的全链路大数据开发治理平台。

我要提问

相关文章

  • 阿里云EMR Serverless StarRocks 内容合集
  • OB-Dashboard管理 OceanBase 集群学习笔记
  • 通过 select into outfile / load data infile 进行数据导入导出学习笔记
  • ​​告别AI“纸上谈兵”？解锁LangGraph+OceanBase数据融合构建Agent蓝图
  • 阿里云大数据AI产品月刊-2025年8月

    • 热门讨论

    热门文章

  • 数据来源：com.alibaba.fastjson.JSONException: syntax er
  • Dataphin和 Dataworks 有啥区别呢？
  • 阿里云磁盘大小是多少？
  • 数据服务报429请求次数过多咋办呀
  • 咱们这个API Path什么意思呢，是自定义的接口吗？还是统一规范的？
  • DataWorks如果购买独立资源组，接口响应速度能提效多少呢？
  • DataWorks暂停调度和空跑调度的区别是什么？
  • 请教一下DataWorks，doris和starRocks 选型，选哪个？
  • DataWorks中odps SQL 参数 如何获取前一天的yyyymm？
  • DataWorks快捷键有什么？
    • 展开全部
  • 2万字揭秘阿里巴巴数据治理平台DataWorks建设实践
  • 欢迎加入飞天大数据平台交流群
  • DataWorks售前咨询
  • DataWorks操作报错合集之配置项目连通oss数据源 , 报The request signature we calculated does not match the signature you provided.如何解决
  • 火热邀测！DataWorks数据集成支持大模型AI处理
  • 欢迎加入DataWorks产品钉钉交流群
  • DataWorks产品使用合集之怎么选择Doris或StarRocks作为DataWorks的OLAP解决方案
  • 数据中台的智能进化—阿里巴巴十二年数据平台发展历程
  • 智能体Agent解析：用自然语言重构数据开发工作方式
  • DataWorks Copilot 集成Qwen3-235B-A22B混合推理模型，数据开发与分析效率再升级！
    • 展开全部
    还有其他疑问?
    咨询AI助理