开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

flink source impala sink hudi的cow+upsert任务一直在反复的报错

flink source impala sink hudi的cow+upsert任务一直在反复的报这几个错误,是不是集群资源(内存和磁盘)的不足导致的?我6亿的数据量JM给了8G,TM给了10G.下图分别是JM和TM的日志 3d183cacef9f11e353789c56a65e53e1.png 0405280ee74ba16895487ffed626ae30.png e86489ae2b22cf8a3acc2902eb51d06b.png 629a18cd20c670030aced275b48aa765.png 100ad74d4cb01310cdd0589049faa175.jpg

展开
收起
爱喝咖啡嘿 2022-12-21 11:54:11 346 0
1 条回答
写回答
取消 提交回答
  • 我看报错里面有连接拒绝,确定下能否通信,我之前测试flink 写hudi 用的模式也是cow + upsert,不过数据源我是mysql ,数据量也就90万,写入好像没啥问题。——此答案整理自钉群“【③群】Apache Flink China社区”

    2022-12-21 15:27:13
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载