开发者社区> 问答> 正文

小米在实时数据集成中,对DB的Binlog数据收集做了哪些改进?

小米在实时数据集成中,对DB的Binlog数据收集做了哪些改进?

展开
收起
不吃核桃 2024-08-19 14:45:00 25 0
1 条回答
写回答
取消 提交回答
  • 小米在实时数据集成中,对DB的Binlog数据收集进行了改进。原先使用自研的LCS Binlog服务收集Binlog数据到消息队列中,再由Spark Streaming任务转储到其他系统。现在,小米使用Flink CDC直接收集Binlog数据并写入消息队列中,同时通过Flink将消息队列中的数据转储到Kudu、Doris、Iceberg等其他系统,实现了全链路的实时数据处理。
    image.png

    2024-08-19 19:55:21
    赞同 3 展开评论 打赏
问答标签:
问答地址:
问答排行榜
最热
最新

相关电子书

更多
PolarDB-X 2.0 全局 Binlog 与备份恢复能 立即下载
低代码开发师(初级)实战教程 立即下载
阿里巴巴DevOps 最佳实践手册 立即下载