联通实时计算平台问题之实时计算平台对于用户订阅和数据下发是如何支持的

简介: 联通实时计算平台问题之实时计算平台对于用户订阅和数据下发是如何支持的

问题一:实时计算平台的数据源和用户订阅情况如何?


实时计算平台的数据源和用户订阅情况如何?


参考回答:

实时计算平台接入了30多种数据源,数据量达到万亿级别,每日数据增量为600TB。用户来自全国31个省份公司及联通集团的各个子公司,目前平台支持26种标准化场景,支撑了5000多个规则的订阅。


关于本问题的更多回答可点击原文查看:

https://developer.aliyun.com/ask/670775



问题二:实时计算平台如何确保数据的实时性和准确性?


实时计算平台如何确保数据的实时性和准确性?


参考回答:

数据从产生到进入系统有520秒延迟,系统处理后有310秒延迟,平台通过端到端延迟监控确保不超过5分钟的最大延迟。同时,平台实时下发的数据会保存至HDFS,每日抽取部分数据进行质量比对,确保数据准确性达到95%以上。


关于本问题的更多回答可点击原文查看:

https://developer.aliyun.com/ask/670777



问题三:Flink在实时计算平台中扮演了什么角色?


Flink在实时计算平台中扮演了什么角色?


参考回答:

Flink在实时计算平台中扮演了核心引擎的角色,能够很好地满足实时性、低延迟、高吞吐量的需求,确保用户定义场景的数据不漏发。


关于本问题的更多回答可点击原文查看:

https://developer.aliyun.com/ask/670780



问题四:实时计算平台如何支持用户订阅和数据下发?


实时计算平台如何支持用户订阅和数据下发?


参考回答:

用户通过平台订阅标准化场景,平台将Kafka连接信息和数据Schema返回给用户。用户订阅的筛选条件与数据流匹配成功后,以Kafka形式下发数据。


关于本问题的更多回答可点击原文查看:

https://developer.aliyun.com/ask/670783



问题五:为什么选择从Kafka + Spark Streaming转向Flink?


为什么选择从Kafka + Spark Streaming转向Flink?


参考回答:

因为Kafka + Spark Streaming的第三方平台存在依赖外部系统、大并发下负载高、资源消耗大、支撑体量小、监控粒度不足等问题,难以满足日益增长的需求。而Flink提供了更高的灵活性和可控性,适合自研和定制化开发。


关于本问题的更多回答可点击原文查看:

https://developer.aliyun.com/ask/670787

相关实践学习
基于Hologres+Flink搭建GitHub实时数据大屏
通过使用Flink、Hologres构建实时数仓,并通过Hologres对接BI分析工具(以DataV为例),实现海量数据实时分析.
实时计算 Flink 实战课程
如何使用实时计算 Flink 搞定数据处理难题?实时计算 Flink 极客训练营产品、技术专家齐上阵,从开源 Flink功能介绍到实时计算 Flink 优势详解,现场实操,5天即可上手! 欢迎开通实时计算 Flink 版: https://cn.aliyun.com/product/bigdata/sc Flink Forward Asia 介绍: Flink Forward 是由 Apache 官方授权,Apache Flink Community China 支持的会议,通过参会不仅可以了解到 Flink 社区的最新动态和发展计划,还可以了解到国内外一线大厂围绕 Flink 生态的生产实践经验,是 Flink 开发者和使用者不可错过的盛会。 去年经过品牌升级后的 Flink Forward Asia 吸引了超过2000人线下参与,一举成为国内最大的 Apache 顶级项目会议。结合2020年的特殊情况,Flink Forward Asia 2020 将在12月26日以线上峰会的形式与大家见面。
相关文章
|
6月前
|
存储 消息中间件 人工智能
Lazada 如何用实时计算 Flink + Hologres 构建实时商品选品平台
本文整理自 Lazada Group EVP 及供应链技术负责人陈立群在 Flink Forward Asia 2025 新加坡实时分析专场的分享。作为东南亚领先的电商平台,Lazada 面临在六国管理数十亿商品 SKU 的挑战。为实现毫秒级数据驱动决策,Lazada 基于阿里云实时计算 Flink 和 Hologres 打造端到端实时商品选品平台,支撑日常运营与大促期间分钟级响应。本文深入解析该平台如何通过流式处理与实时分析技术重构电商数据架构,实现从“事后分析”到“事中调控”的跃迁。
532 55
Lazada 如何用实时计算 Flink + Hologres 构建实时商品选品平台
|
9月前
|
消息中间件 运维 Kafka
直播预告|Kafka+Flink双引擎实战:手把手带你搭建分布式实时分析平台!
在数字化转型中,企业亟需从海量数据中快速提取价值并转化为业务增长动力。5月15日19:00-21:00,阿里云三位技术专家将讲解Kafka与Flink的强强联合方案,帮助企业零门槛构建分布式实时分析平台。此组合广泛应用于实时风控、用户行为追踪等场景,具备高吞吐、弹性扩缩容及亚秒级响应优势。直播适合初学者、开发者和数据工程师,参与还有机会领取定制好礼!扫描海报二维码或点击链接预约直播:[https://developer.aliyun.com/live/255088](https://developer.aliyun.com/live/255088)
617 35
直播预告|Kafka+Flink双引擎实战:手把手带你搭建分布式实时分析平台!
|
4月前
|
存储 消息中间件 人工智能
云栖实录|实时计算 Flink 全新升级 - 全栈流处理平台助力实时智能
本文根据 2025 云栖大会演讲整理而成,演讲信息如下 演讲人:黄鹏程 阿里云智能集团计算平台事业部实时计算Flink版产品负责人
333 1
云栖实录|实时计算 Flink 全新升级 - 全栈流处理平台助力实时智能
|
9月前
|
消息中间件 运维 Kafka
直播预告|Kafka+Flink 双引擎实战:手把手带你搭建分布式实时分析平台!
直播预告|Kafka+Flink 双引擎实战:手把手带你搭建分布式实时分析平台!
266 11
|
12月前
|
SQL 消息中间件 Kafka
Flink+Paimon+Hologres,面向未来的一体化实时湖仓平台架构设计
本文介绍了阿里云实时数仓Hologres负责人姜伟华在Flink Forward Asia 2024上的分享,涵盖实时数仓的发展历程、从实时数仓到实时湖仓的演进,以及总结。文章通过三代实时数仓架构的演变,详细解析了Lambda架构、Kafka实时数仓分层+OLAP、Hologres实时数仓分层复用等方案,并探讨了未来从实时数仓到实时湖仓的演进方向。最后,结合实际案例和Demo展示了Hologres + Flink + Paimon在实时湖仓中的应用,帮助用户根据业务需求选择合适的方案。
1607 20
Flink+Paimon+Hologres,面向未来的一体化实时湖仓平台架构设计
|
12月前
|
SQL 存储 HIVE
鹰角基于 Flink + Paimon + Trino 构建湖仓一体化平台实践项目
本文整理自鹰角网络大数据开发工程师朱正军在Flink Forward Asia 2024上的分享,主要涵盖四个方面:鹰角数据平台架构、数据湖选型、湖仓一体建设及未来展望。文章详细介绍了鹰角如何构建基于Paimon的数据湖,解决了Hudi入湖的痛点,并通过Trino引擎和Ranger权限管理实现高效的数据查询与管控。此外,还探讨了湖仓一体平台的落地效果及未来技术发展方向,包括Trino与Paimon的集成增强、StarRocks的应用以及Paimon全面替换Hive的计划。
1464 1
鹰角基于 Flink + Paimon + Trino 构建湖仓一体化平台实践项目
|
11月前
|
SQL 消息中间件 Serverless
​Flink+Paimon+Hologres,面向未来的一体化实时湖仓平台架构设计
​Flink+Paimon+Hologres,面向未来的一体化实时湖仓平台架构设计
344 4
|
11月前
|
SQL 存储 HIVE
鹰角基于 Flink + Paimon + Trino 构建湖仓一体化平台实践项目
鹰角基于 Flink + Paimon + Trino 构建湖仓一体化平台实践项目
768 2
|
监控 Java Serverless
美团 Flink 大作业部署问题之想在Serverless平台上实时查看Spring Boot应用的日志要怎么操作
美团 Flink 大作业部署问题之想在Serverless平台上实时查看Spring Boot应用的日志要怎么操作