开发者社区 问答 正文

在流处理场景中,为什么Delta表可能会产生大量小文件,这对查询性能有何影响?

在流处理场景中,为什么Delta表可能会产生大量小文件,这对查询性能有何影响?

展开
收起
萝卜丝丸子 2024-08-07 17:01:27 51 分享 版权
1 条回答
写回答
取消 提交回答
  • 在流处理场景中,每次数据插入都会创建一个新的表文件,如果流处理作业频繁执行(如每10秒一次),一天内可能会产生数千个小文件,长期运行会导致数百万个小文件。这些大量的小文件不仅增加了元数据的维护难度,还会严重恶化查询性能。

    2024-08-07 19:27:12
    赞同 3 展开评论
问答地址: