开发者社区> 问答> 正文

kafka里的分区分段的定义是什么?

kafka里的分区分段的定义是什么?

展开
收起
7大帅 2021-12-09 21:17:07 373 0
1 条回答
写回答
取消 提交回答
  • Kafka的message是按topic分类存储的,topic中的数据又是按照一个一个的 partition即分区存储到不同broker节点。每个partition对应了操作系统上的一个 文件夹,partition实际上又是按照segment分段存储的。这也非常符合分布式系 统分区分桶的设计思想。

    通过这种分区分段的设计,Kafka的message消息实际上是分布式存储在一 个一个小的segment中的,每次文件操作也是直接操作的segment。为了进一步 的查询优化,Kafka又默认为分段后的数据文件建立了索引文件,就是文件系统上 的.index文件。这种分区分段+索引的设计,不仅提升了数据读取的效率,同时也 提高了数据操作的并行度。

    2021-12-09 22:04:05
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
Java Spring Boot开发实战系列课程【第16讲】:Spring Boot 2.0 实战Apache Kafka百万级高并发消息中间件与原理解析 立即下载
MaxCompute技术公开课第四季 之 如何将Kafka数据同步至MaxCompute 立即下载
消息队列kafka介绍 立即下载