csv数据导入odps中,请问可以设置处理一个固定目录下的所有csv数据导入odps吗?

关于 DataWorks,csv数据导入odps中,请问可以设置处理一个固定目录下的所有csv数据导入odps吗?还需要保障数据不要重复导入

展开
收起
wenti 2023-01-09 15:53:56 287 分享 版权
1 条回答
写回答
取消 提交回答
  • 可以设置处理一个固定目录下的所有csv数据导入odps,可以使用DataWorks的定时任务功能,定时扫描指定目录下的csv文件,然后将其导入odps中。 为了保障数据不要重复导入,可以在导入前,先检查odps中是否已经存在该数据,如果存在,则不再导入,如果不存在,则进行导入操作。

    2023-01-10 23:42:08
    赞同 展开评论

DataWorks基于MaxCompute/Hologres/EMR/CDP等大数据引擎,为数据仓库/数据湖/湖仓一体等解决方案提供统一的全链路大数据开发治理平台。

收录在圈子:
+ 订阅
还有其他疑问?
咨询AI助理