开发者社区 > 大数据与机器学习 > 大数据计算 MaxCompute > 正文

大数据计算MaxCompute里数据里的数据,同步到ES,一直在等待中,是负载太高了嘛?

大数据计算MaxCompute里数据里的数据,同步到ES,一直在等待中,是负载太高了嘛?2024-01-10 11:44:24 : Detail log url:
https://di-cn-shenzhen.data.aliyun.com/web/di/instanceLog?id=431336743&resourceGroup=S_res_group_594473364560384_1699428491182&requestId=1a8250ff-dc44-4ea2-aaa6-6b44a2824745&projectId=33133
2024-01-10 11:44:24 : State: 1(SUBMIT) | Total: 0R 0B | Speed: 0R/s 0B/s | Stage: 0.0%

2024-01-10 11:44:39 : State: 2(WAIT) | Total: 0R 0B | Speed: 0R/s 0B/s | Stage: 0.0%

2024-01-10 11:44:54 : State: 2(WAIT) | Total: 0R 0B | Speed: 0R/s 0B/s | Stage: 0.0%

2024-01-10 11:45:09 : State: 2(WAIT) | Total: 0R 0B | Speed: 0R/s 0B/s | Stage: 0.0%

2024-01-10 11:45:24 : State: 2(WAIT) | Total: 0R 0B | Speed: 0R/s 0B/s | Stage: 0.0% d2cd309858ff82bf9e65583db0ef690b.png

展开
收起
小小鹿鹿鹿 2024-01-17 17:06:15 55 0
2 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    根据提供的信息,数据同步到ES一直处于等待状态。这可能是由于负载过高导致的。负载过高可能导致系统处理速度变慢,从而导致同步任务长时间处于等待状态。

    要解决这个问题,可以考虑以下几个步骤:

    1. 检查系统的负载情况:查看MaxCompute和ES的监控指标,确认是否存在负载过高的情况。如果负载确实很高,可能需要优化系统性能或增加资源来提高处理能力。

    2. 调整同步任务的并发度:如果系统中存在其他高并发的任务,可以尝试减少同步任务的并发度,以减轻系统负载。可以通过调整同步任务的配置参数来实现这一点。

    3. 增加资源:如果系统的负载确实很高,可以考虑增加计算资源、存储资源或网络带宽等,以提高系统的处理能力和吞吐量。

    4. 优化数据结构和查询语句:如果同步任务涉及到复杂的查询操作,可以尝试优化数据结构和查询语句,以提高查询效率和减少系统负载。

    2024-01-18 14:26:36
    赞同 展开评论 打赏
  • 看一下在资源组列表里运行的任务是不是太多。此回答来自钉群MaxCompute开发者社区1群。

    2024-01-18 09:35:50
    赞同 展开评论 打赏

MaxCompute(原ODPS)是一项面向分析的大数据计算服务,它以Serverless架构提供快速、全托管的在线数据仓库服务,消除传统数据平台在资源扩展性和弹性方面的限制,最小化用户运维投入,使您经济并高效的分析处理海量数据。

相关产品

  • 云原生大数据计算服务 MaxCompute
  • 相关电子书

    更多
    Data+AI时代大数据平台应该如何建设 立即下载
    大数据AI一体化的解读 立即下载
    极氪大数据 Serverless 应用实践 立即下载