开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink CDC有大佬知道这啥原因吗?这是序列化有问题吗,用的群文件的DataStreamJob?

Flink CDC有大佬知道这啥原因吗?这是序列化有问题吗,用的群文件的DataStreamJob6c378010f3e0a186ee08fa3c47343fa7.png

展开
收起
真的很搞笑 2023-08-20 12:01:07 49 0
1 条回答
写回答
取消 提交回答
  • Flink 是分布式框架,在运行时,各个 TaskManager 之间会通过网络传输数据。为了保证数据在网络传输过程中不被破坏,Flink 会对数据进行序列化和反序列化。

    如果你使用的是 Java 类型,那么 Flink 会使用 Java 序列化器来进行序列化和反序列化。如果 Java 类型中包含某些特殊的类型,例如枚举类型、自定义对象,那么 Flink 在序列化和反序列化的时候可能会出现问题。

    为了解决这个问题,你可以使用 Flink 自带的类型安全序列化器,例如 AvroSerializer 和 ProtobufSerializer。这些序列化器可以保证数据在网络传输过程中不被破坏。

    2023-09-20 11:20:37
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载