开发者社区 > 云原生 > Serverless > 正文

数据仓库+Serverless出现延迟的原因?

数据仓库+Serverless出现延迟的原因?

展开
收起
游客hkipy4pok6j4i 2021-12-10 11:05:51 448 0
1 条回答
写回答
取消 提交回答
  • 任务本身要请求的数据量会特别大。通常来说一天原始的数据量可能在几十TB。几百个分区,甚至上千个分区,五万+的文件数这样子。如果说全量读取这些文件的话,几百个分区就会向 NameNode 发送几百次请求,我们知道离线任务在凌晨运行的时候,NameNode 的压力是非常大的。所以就很有可能出现 Namenode 响应很慢的情况,如果请求响应很慢就会导致任务初始化时间很长。

    2021-12-10 11:06:28
    赞同 展开评论 打赏

快速交付实现商业价值。

相关产品

  • 函数计算
  • 相关电子书

    更多
    Hologres Serverless之路:揭秘弹性计算组 立即下载
    Serverless开发平台: 让研发效能再提升 立即下载
    Serverless 引领云上研发新范式 立即下载