问题1:你好,DataWorks中我有一张天全量分区表,非常的大,我只想每天同步近30天的数据到mysql上。请问我该怎么做呢?在数据集成这里我似乎没法过滤最近30天的数据? 问题2:您没有理解我的意思,我这边是天全量表,每天的分区都是全量数据。
比如今天的分区就是20230530,里面是历史迄今的所有数据。 我需要的是今天20230530分区里:最新30天的数据
不知道这样子前置过滤可以实现吗 在数据同步的时候
回答1:参考一下maxcompute reader 分区的配置方式 可以配置读取多分区 https://help.aliyun.com/document_detail/181656.html?spm=a2c4g.171764.0.0.4ac03dc09mmvrp 回答2:需要同步一个分区里的部分数据是么 目前同步任务不支持哈 因为执行的是tunnel 最小粒度是单分区 建议先过滤好写到tmp表 再用tmp表同步,此回答整理自钉群“DataWorks交流群(答疑@机器人)”
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。
DataWorks基于MaxCompute/Hologres/EMR/CDP等大数据引擎,为数据仓库/数据湖/湖仓一体等解决方案提供统一的全链路大数据开发治理平台。