开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink CDC这是传输blob文件太大导致的吗?

Flink CDC这是传输blob文件太大导致的吗?2023-12-09 04:33:29,302 ERROR org.apache.flink.runtime.blob.BlobServerConnection [] - Error while executing BLOB connection.

java.io.IOException: Unknown operation 80

展开
收起
真的很搞笑 2023-12-19 08:08:03 290 0
1 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    这个错误信息表明在执行BLOB连接时出现了问题。具体来说,它指出了一个未知的操作代码80。这可能是由于传输的blob文件太大导致的。

    要解决这个问题,你可以尝试以下几种方法:

    1. 增加Flink CDC的内存限制:如果blob文件过大,可能会导致内存不足。你可以尝试增加Flink CDC的内存限制,以便能够处理更大的blob文件。

    2. 优化数据存储和传输方式:如果可能的话,你可以考虑优化数据的存储和传输方式,以减少blob文件的大小。例如,你可以使用压缩算法来减小文件大小,或者将大文件分割成多个小文件进行传输。

    3. 调整Flink CDC的配置参数:你还可以尝试调整Flink CDC的配置参数,以适应更大的blob文件。例如,你可以增加taskmanager.network.memory.mintaskmanager.network.memory.max的值,以便为网络传输提供更多的内存空间。

    4. 检查网络连接和防火墙设置:如果问题仍然存在,可能是由于网络连接或防火墙设置导致的问题。你可以检查网络连接是否正常,以及防火墙是否允许Flink CDC与数据库之间的通信。

    2023-12-19 15:03:02
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载