开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

各位flink cdc 同步进hudi的数据,可以用spark 改吗?

各位大哥flink cdc 同步进hudi的数据,可以用spark 改吗?

展开
收起
真的很搞笑 2024-01-09 11:38:42 75 0
1 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    是的,您可以使用Spark来处理通过Flink CDC同步进Hudi的数据。首先,您需要准备数据源,例如在Spark SQL中创建表。然后,您可以对Hudi中的数据进行各种操作和转换。此外,您还可以将Flink CDC的两张表合并成一张视图,同时写入到数据湖(Hudi)和Kafka中。在这个过程中,您可能需要使用一些特定的jar包,如hudi-spark3-bundle_2.12-0.10.0.jar和hudi-flink-bundle_2.11-0.10.0.jar等。

    2024-01-09 15:17:35
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载