云计算情报局预告|告别 Kafka Streams,让轻量级流处理更加简单

本文涉及的产品
服务治理 MSE Sentinel/OpenSergo,Agent数量 不受限
可观测可视化 Grafana 版,10个用户账号 1个月
简介: 消息的流式计算主要采取接入Flink、Kafka Streams等技术方案,但面对70%以上都是简单流场处理景的需求,传统方案的弊端会被不断放大,客户仍然需要投入较大的人力成本和较高的资源,同时整个架也比较更复杂。消息队列Kafka版 发布Kafka-ETL组件,是一款免运维的流计算组件,基于低代码开发可满足包括格式转换、内容富化、本地聚合、路由分发等常用的数据处理需求。

作者:不周

关键词:Kafka ETL,高弹性、免运维、低成本


阿里云消息队列 Kafka 版提供兼容 Apache Kafka 生态的全托管服务,彻底解决开源产品长期的痛点,是大数据生态中不可或缺的产品之一。随着 Kafka 越来越流行,最初只是作为简单的消息总线,后来逐渐成为数据集成系统,Kafka 可靠的传递能力让它成为流式处理系统完美的数据来源。在大数据工程领域,Kafka 在承接上下游、串联数据流管道方面发挥了重要作用,Kafka 应用流式框架处理消息也逐渐成为趋势。


说到流计算,常用的便是 Storm、Spark Streaming、Flink 和 Kafka Streams,目前这些框架都相对成熟,并且都有相应的使用案例,但这些框架使用起来门槛较高,首先要学习框架和各种技术、规范的使用,然后要将业务迁移到这些框架中,最后线上使用并运维这些流计算框架。尤其在面对 70% 以上简单流处理场景的需求,传统方案的弊端会被不断放大,客户仍然需要投入较大的人力成本和较高的资源,同时整个架构也比较复杂。总结来说,主要遇到的问题包含以下四个方面:


  • 一是运维成本较高,研发团队自行编写代码,后期需要持续维护,会带来较大的运维成本;
  • 二是技术成本较大,对于很多轻量或简单计算需求,需要进行技术选型,而引入一个全新的组件会带来较高的技术成本;
  • 三是学习成本不可预期,在某组件选定后,需要研发团队进行学习并持续维护,这就带来了不可预期的学习成本;
  • 四是开发人员自行选用开源组件之后,可靠性和可用性并不能得到很好的保障。


为了更好的解决传统流式计算在面对简单流处理场景需求时遇到的种种问题,阿里云消息队列 Kafka 版也推出了相应的解决方案:Kafka ETL。


那么阿里云 Kafka ETL 具体是如何解决以上问题的呢?


1.png


点击此处,前往云计算情报局直播间,即刻为您答疑解惑!


相关文章
|
4月前
|
消息中间件 存储 监控
Kafka Streams:深度探索实时流处理应用程序
Apache Kafka Streams 是一款强大的实时流处理库,为构建实时数据处理应用提供了灵活且高性能的解决方案。本文将深入探讨 Kafka Streams 的核心概念、详细原理,并提供更加丰富的示例代码,以帮助大家深入理解和应用这一流处理框架。
|
11月前
|
消息中间件 存储 缓存
「事件驱动架构」技术架构师必看事件溯源,CQRS,流处理和Kafka之间的复杂关系
「事件驱动架构」技术架构师必看事件溯源,CQRS,流处理和Kafka之间的复杂关系
|
11月前
|
消息中间件 存储 缓存
「事件驱动架构」事件溯源,CQRS,流处理和Kafka之间的复杂关系
「事件驱动架构」事件溯源,CQRS,流处理和Kafka之间的复杂关系
|
11月前
|
消息中间件 存储 缓存
「事件驱动架构」事件溯源,CQRS,流处理和Kafka之间的多角关系
「事件驱动架构」事件溯源,CQRS,流处理和Kafka之间的多角关系
「事件驱动架构」事件溯源,CQRS,流处理和Kafka之间的多角关系
|
消息中间件 数据采集 运维
告别Kafka Stream,让轻量级流处理更加简单
还在花精力去选型Kafka组件去做清洗转化?来试试Kafka ETL任务功能!
146 0
告别Kafka Stream,让轻量级流处理更加简单
|
消息中间件 分布式计算 Kafka
Spark Streaming实时流处理项目实战笔记——使用KafkaSInk将Flume收集到的数据输出到Kafka
Spark Streaming实时流处理项目实战笔记——使用KafkaSInk将Flume收集到的数据输出到Kafka
|
2月前
|
消息中间件 安全 Kafka
2024年了,如何更好的搭建Kafka集群?
我们基于Kraft模式和Docker Compose同时采用最新版Kafka v3.6.1来搭建集群。
438 2
2024年了,如何更好的搭建Kafka集群?
|
3月前
|
消息中间件 存储 数据可视化
kafka高可用集群搭建
kafka高可用集群搭建
44 0
|
6月前
|
消息中间件 存储 Kubernetes
Helm方式部署 zookeeper+kafka 集群 ——2023.05
Helm方式部署 zookeeper+kafka 集群 ——2023.05
243 0
|
3月前
|
消息中间件 Kafka Linux
Apache Kafka-初体验Kafka(03)-Centos7下搭建kafka集群
Apache Kafka-初体验Kafka(03)-Centos7下搭建kafka集群
65 0

相关产品

  • 云消息队列 Kafka 版