Serverless 应用的监控与调试问题之BMQ的架构是怎么支持流批一体的

本文涉及的产品
实时计算 Flink 版,5000CU*H 3个月
函数计算FC,每月15万CU 3个月
简介: Serverless 应用的监控与调试问题之BMQ的架构是怎么支持流批一体的

问题一:字节跳动内部流批一体的推广应用情况如何,目前有多少Flink流式作业,其中SQL作业占比多少?


字节跳动内部流批一体的推广应用情况如何,目前有多少Flink流式作业,其中SQL作业占比多少?


参考回答:

从去年开始,流批一体也逐步在字节跳动公司内部推广应用。目前字节跳动全球Flink流式作业达到4w个,其中SQL作业占30%。


关于本问题的更多回答可点击原文查看:

https://developer.aliyun.com/ask/672013



问题二:字节跳动在晚高峰时Flink作业处理消息的QPS和Checkpoint高峰流量吞吐分别是多少?


字节跳动在晚高峰时Flink作业处理消息的QPS和Checkpoint高峰流量吞吐分别是多少?


参考回答:

晚高峰Flink作业处理消息的QPS达到90亿,Checkpoint高峰流量吞吐达到600GB/s。


关于本问题的更多回答可点击原文查看:

https://developer.aliyun.com/ask/672014



问题三:字节跳动为什么选择重新设计实现BMQ消息队列?


字节跳动为什么选择重新设计实现BMQ消息队列?


参考回答:

为了解决Kafka集群升级扩缩容需要大量拷贝数据的问题,字节团队基于存算分离的架构重新设计实现了消息队列BMQ。


关于本问题的更多回答可点击原文查看:

https://developer.aliyun.com/ask/672015



问题四:BMQ的架构是如何支持流批一体的?


BMQ的架构是如何支持流批一体的?


参考回答:

在BMQ的架构之下,数据存放在分布式文件系统HDFS中,Meta存放在K-V存储中。BMQ的计算层Proxy无状态,所以非常容易做扩缩容,且可以同时提供Stream API和Batch API,支持流和批的消费,实现存储层的流批一体。


关于本问题的更多回答可点击原文查看:

https://developer.aliyun.com/ask/672016



问题五:字节跳动下一步在Flink方面的计划是什么?


字节跳动下一步在Flink方面的计划是什么?


参考回答:

字节跳动下一步计划是推进Flink OLAP的落地,并积极改进和优化Flink OLAP能力,推进其在Flink社区中的发展。


关于本问题的更多回答可点击原文查看:

https://developer.aliyun.com/ask/672017

相关实践学习
【文生图】一键部署Stable Diffusion基于函数计算
本实验教你如何在函数计算FC上从零开始部署Stable Diffusion来进行AI绘画创作,开启AIGC盲盒。函数计算提供一定的免费额度供用户使用。本实验答疑钉钉群:29290019867
建立 Serverless 思维
本课程包括: Serverless 应用引擎的概念, 为开发者带来的实际价值, 以及让您了解常见的 Serverless 架构模式
相关文章
|
23天前
|
运维 Cloud Native 持续交付
深入理解云原生架构及其在现代企业中的应用
随着数字化转型的浪潮席卷全球,企业正面临着前所未有的挑战与机遇。云计算技术的迅猛发展,特别是云原生架构的兴起,正在重塑企业的IT基础设施和软件开发模式。本文将深入探讨云原生的核心概念、关键技术以及如何在企业中实施云原生策略,以实现更高效的资源利用和更快的市场响应速度。通过分析云原生架构的优势和面临的挑战,我们将揭示它如何助力企业在激烈的市场竞争中保持领先地位。
|
7天前
|
人工智能 Serverless API
尽享红利,Serverless构建企业AI应用方案与实践
本次课程由阿里云云原生架构师计缘分享,主题为“尽享红利,Serverless构建企业AI应用方案与实践”。课程分为四个部分:1) Serverless技术价值,介绍其发展趋势及优势;2) Serverless函数计算与AI的结合,探讨两者融合的应用场景;3) Serverless函数计算AIGC应用方案,展示具体的技术实现和客户案例;4) 业务初期如何降低使用门槛,提供新用户权益和免费资源。通过这些内容,帮助企业和开发者快速构建高效、低成本的AI应用。
46 12
|
28天前
|
Cloud Native 安全 持续交付
深入理解微服务架构及其在现代软件开发中的应用
深入理解微服务架构及其在现代软件开发中的应用
44 3
|
29天前
|
监控 持续交付 API
深入理解微服务架构及其在现代应用开发中的应用
深入理解微服务架构及其在现代应用开发中的应用
28 4
|
28天前
|
运维 Kubernetes Docker
深入理解容器化技术及其在微服务架构中的应用
深入理解容器化技术及其在微服务架构中的应用
58 1
|
1月前
|
边缘计算 监控 自动驾驶
揭秘云计算中的边缘计算:架构、优势及应用场景
揭秘云计算中的边缘计算:架构、优势及应用场景
|
1月前
|
存储 监控 API
深入解析微服务架构及其在现代应用中的实践
深入解析微服务架构及其在现代应用中的实践
41 0
|
1月前
|
监控 物联网 持续交付
深入理解微服务架构及其在现代软件开发中的应用
深入理解微服务架构及其在现代软件开发中的应用
32 0
|
1月前
|
监控 持续交付 API
深入理解微服务架构及其在现代软件开发中的应用
深入理解微服务架构及其在现代软件开发中的应用
34 0
|
22天前
|
弹性计算 API 持续交付
后端服务架构的微服务化转型
本文旨在探讨后端服务从单体架构向微服务架构转型的过程,分析微服务架构的优势和面临的挑战。文章首先介绍单体架构的局限性,然后详细阐述微服务架构的核心概念及其在现代软件开发中的应用。通过对比两种架构,指出微服务化转型的必要性和实施策略。最后,讨论了微服务架构实施过程中可能遇到的问题及解决方案。

热门文章

最新文章