带你读《企业级云原生白皮书项目实战》——4.1.6 消息队列Kafka版最佳实践(上)

本文涉及的产品
日志服务 SLS,月写入数据量 50GB 1个月
简介: 带你读《企业级云原生白皮书项目实战》——4.1.6 消息队列Kafka版最佳实践(上)

4.1.6 消息队列Kafka版最佳实践


4.1.6.1 网站活动跟踪

成功的网站运营需要对站点的用户行为进行分析。通过消息队列Kafka版的发布/订阅模型,可以实时收集网站活动数据(例如注册、登录、充值、支付、购买),根据业务数据类型将消息发布到不同的Topic,然后利用订阅消息的实时投递,将消息流用于实时处理、实时监控或者加载到Hadoop、MaxCompute等离线数据仓库系统进行离线处理。

image.png

图:网站活动跟踪示意图


4.1.6.2 日志聚合

许多公司,例如淘宝、天猫等,每天都会产生大量的日志(一般为流式数据,例如搜索引擎PV、查询等)。相较于以日志为中心的系统,例如Scribe和Flume,消息队列Kafka版在具备高性能的同时,可以实现更强的数据持久化以及更短的端到端响应时间。这种特性决定它适合作为日志收集中心。消息队列Kafka版忽略掉文件的细节,可以将多台主机或应用的日志数据抽象成一个个日志或事件的消息流,异步发送到消息队列Kafka版集群,从而实现非常低的RT。消息队列Kafka版客户端可批量提交消息和压缩消息,对生产者而言几乎感觉不到性能的开支。消费者可以使用Hadoop、MaxCompute等离线仓库存储和Strom、Spark等实时在线分析系统对日志进行统计分析。

image.png

图:日志聚合示意图


《企业级云原生白皮书项目实战》——第四章 云原生中间件——4.1 消息队列RocketMQ&&Kafka——4.1.6 消息队列Kafka版最佳实践(下) https://developer.aliyun.com/article/1229107?groupCode=supportservice

相关文章
|
6月前
|
消息中间件 存储 中间件
云原生异步问题之消息队列中的异步如何解决
云原生异步问题之消息队列中的异步如何解决
|
消息中间件 存储 Cloud Native
云原生开源开发者沙龙「微服务X消息队列专场」
云原生开源开发者沙龙「微服务X消息队列专场」
408 10
|
8月前
|
消息中间件 人工智能 监控
|
8月前
|
消息中间件 存储 Cloud Native
【Spring云原生系列】Spring RabbitMQ:异步处理机制的基础--消息队列 原理讲解+使用教程
【Spring云原生系列】Spring RabbitMQ:异步处理机制的基础--消息队列 原理讲解+使用教程
|
8月前
|
安全 Cloud Native 算法
云原生安全-云计算发展白皮书(2020年)解读
云原生安全-云计算发展白皮书(2020年)解读
212 0
|
消息中间件 Cloud Native 开发者
关于云原生开源开发者沙龙「微服务X消息队列专场」的延期通知
关于云原生开源开发者沙龙「微服务X消息队列专场」的延期通知
288 12
|
消息中间件 Cloud Native 开发者
云原生开源开发者沙龙「微服务X消息队列专场」
「8月27日深圳」云原生开源开发者沙龙微服务X消息队列专场
786 1
云原生开源开发者沙龙「微服务X消息队列专场」
|
人工智能 Kubernetes Cloud Native
26场技术分享,阿里云容器服务负责人易立领衔带来容器、AI、Serverless、中间件最佳实践
26场技术分享,阿里云容器服务负责人易立领衔带来容器、AI、Serverless、中间件最佳实践
|
消息中间件 Cloud Native 安全
消息队列和应用工具产品体系-云原生技术的未来展望
消息队列和应用工具产品体系-云原生技术的未来展望
消息队列和应用工具产品体系-云原生技术的未来展望
|
运维 Kubernetes Cloud Native
消息队列和应用工具产品体系-申通快递云原生应用实践
消息队列和应用工具产品体系-申通快递云原生应用实践
消息队列和应用工具产品体系-申通快递云原生应用实践