开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

请问有人遇到过flink批算子最后的collect收集成集合的过程在ui界面那个算子一直转圈请求不到

请问有人遇到过flink批算子最后的collect收集成集合的过程在ui界面那个算子一直转圈请求不到资源的情况吗?在本地测试正常,放入集群就这样

展开
收起
游客3oewgrzrf6o5c 2022-08-11 13:52:28 525 0
1 条回答
写回答
取消 提交回答
  • 资深技术专家,全网粉丝10W+。主攻技术开发,擅长分享、写文、测评。

    问题可能如下 数据量过大:如果您的作业处理的数据量非常大,当调用 collect() 方法时,Flink 将尝试将所有结果收集到单个节点上。这可能导致内存不足或超出资源限制。在本地测试时,由于数据规模较小,可能不会出现此问题。为了解决这个问题,您可以考虑使用其他方式处理结果,例如写入到外部存储系统或者使用迭代器逐个处理结果,而不是一次性收集所有结果。

    集群资源限制:当将作业提交到集群时,集群的资源限制可能导致无法满足 collect() 方法的请求。这包括可用的内存、CPU 资源等。您可以检查集群的配置和资源分配情况,确保足够的资源可供作业使用。

    作业并发度过高:如果作业的并发度设置过高,即每个算子的并行度过大,可能会导致资源竞争和资源不足的问题。您可以尝试减少作业的并发度,以释放一些资源。

    2023-06-28 13:09:40
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载