开发者社区 > 大数据与机器学习 > 开源大数据平台 E-MapReduce > 正文

请问下阿里云E-MapReduce 能实现覆盖写单分区吗?

请问下阿里云E-MapReduce datax同步hdfs数据至sr的单个分区中 能实现覆盖写单分区吗? 目前2.3版本

展开
收起
cuicuicuic 2023-11-06 12:38:43 61 0
1 条回答
写回答
取消 提交回答
  • 覆盖写单分区,2.3版本,在DataX中只能通过主键模型来对同key的数据做更新,或者先通过preSql,truncate分区然后写入,但这会导致这个分区有一段数据空白期。2.4后支持insert overwrite,但这种方式datax不好支持,Hive外表下可以。,此回答整理自钉群“EMR OLAP(ClickHouse&StarRocks) 用户技术交流群”

    2023-11-08 07:37:51
    赞同 展开评论 打赏

阿里云EMR是云原生开源大数据平台,为客户提供简单易集成的Hadoop、Hive、Spark、Flink、Presto、ClickHouse、StarRocks、Delta、Hudi等开源大数据计算和存储引擎,计算资源可以根据业务的需要调整。EMR可以部署在阿里云公有云的ECS和ACK平台。

相关电子书

更多
阿里云云原生 Serverless 技术实践营 PPT 演讲 立即下载
阿里云产品十月刊 立即下载
基于阿里云构建博学谷平台实时湖仓 立即下载