Serverless 应用的监控与调试问题之Flink流式数仓对于工商银行的数据链路要如何简化

本文涉及的产品
阿里云百炼推荐规格 ADB PostgreSQL,4核16GB 100GB 1个月
实时计算 Flink 版,5000CU*H 3个月
云原生数据仓库AnalyticDB MySQL版,基础版 8ACU 100GB 1个月
简介: Serverless 应用的监控与调试问题之Flink流式数仓对于工商银行的数据链路要如何简化

问题一:Flink OLAP在字节内部测试的表现如何?


Flink OLAP在字节内部测试的表现如何?


参考回答:

Flink OLAP能力在字节内部测试过可以媲美Presto,甚至在有些情况下更优。


关于本问题的更多回答可点击原文查看:

https://developer.aliyun.com/ask/672018



问题二:工商银行实时大数据平台的数据流向是怎样的?


工商银行实时大数据平台的数据流向是怎样的?


参考回答:

工商银行实时大数据平台的数据流向是应用产生的数据写入MySQL或Oracle等关系型数据库,然后将数据库产生的日志复制到Kafka消息队列中作为实时处理平台的数据源。


关于本问题的更多回答可点击原文查看:

https://developer.aliyun.com/ask/672019



问题三:工商银行实时大数据平台的实时处理平台有哪些数据出口?


工商银行实时大数据平台的实时处理平台有哪些数据出口?


参考回答:

工商银行实时大数据平台的实时处理平台有三个数据出口:一是通过Flink实时ETL实现实时数据入湖;二是将Flink的结果输出到HBase或ES等联机数据库中提供面向应用的数据中台服务;三是通过Presto或CK等分析型引擎,提供面向分析师的BI分析能力。

3.


关于本问题的更多回答可点击原文查看:

https://developer.aliyun.com/ask/672020



问题四:Flink流式数仓如何简化工商银行的数据链路?


Flink流式数仓如何简化工商银行的数据链路?


参考回答:

通过Flink的流式数仓,工商银行可以将中间贯穿很多系统和组件的复杂数据链路简化成Flink单链路,利用Flink的动态表(Dynamic Table)提供的流批实时分析一体化的能力来完成实时入湖、实时数据服务和实时分析。


关于本问题的更多回答可点击原文查看:

https://developer.aliyun.com/ask/672021



问题五:金融行业在数据中台设计时如何考虑数据私密和安全?


金融行业在数据中台设计时如何考虑数据私密和安全?


参考回答:

金融行业在数据中台设计时采用的方法包括:全生命周期的数据监控审计、给数据本身加水印方便溯源、通过SQL实现自然人级别的动态数据访问权限控制、通过专家规则和Machine Learning来自动识别海量数据中的敏感数据。


关于本问题的更多回答可点击原文查看:

https://developer.aliyun.com/ask/672022

相关实践学习
AnalyticDB MySQL海量数据秒级分析体验
快速上手AnalyticDB MySQL,玩转SQL开发等功能!本教程介绍如何在AnalyticDB MySQL中,一键加载内置数据集,并基于自动生成的查询脚本,运行复杂查询语句,秒级生成查询结果。
阿里云云原生数据仓库AnalyticDB MySQL版 使用教程
云原生数据仓库AnalyticDB MySQL版是一种支持高并发低延时查询的新一代云原生数据仓库,高度兼容MySQL协议以及SQL:92、SQL:99、SQL:2003标准,可以对海量数据进行即时的多维分析透视和业务探索,快速构建企业云上数据仓库。 了解产品 https://www.aliyun.com/product/ApsaraDB/ads
相关文章
|
19天前
|
机器学习/深度学习 监控 Serverless
Serverless 应用的监控与调试问题之Flink在内部使用的未来规划,以及接下来有什么打算贡献社区的创新技术
Serverless 应用的监控与调试问题之Flink在内部使用的未来规划,以及接下来有什么打算贡献社区的创新技术
|
19天前
|
机器学习/深度学习 监控 大数据
Serverless 应用的监控与调试问题之Flink在整个开源大数据生态中应该如何定位,差异化该如何保持
Serverless 应用的监控与调试问题之Flink在整个开源大数据生态中应该如何定位,差异化该如何保持
|
19天前
|
存储 监控 Serverless
Serverless 应用的监控与调试问题之Pravega和Flink实现端到端的auto-scaling要如何操作
Serverless 应用的监控与调试问题之Pravega和Flink实现端到端的auto-scaling要如何操作
|
2月前
|
存储 监控 大数据
阿里云实时计算Flink在多行业的应用和实践
本文整理自 Flink Forward Asia 2023 中闭门会的分享。主要分享实时计算在各行业的应用实践,对回归实时计算的重点场景进行介绍以及企业如何使用实时计算技术,并且提供一些在技术架构上的参考建议。
678 7
阿里云实时计算Flink在多行业的应用和实践
|
26天前
|
SQL 消息中间件 Kafka
实时计算 Flink版产品使用问题之如何在EMR-Flink的Flink SOL中针对source表单独设置并行度
实时计算Flink版作为一种强大的流处理和批处理统一的计算框架,广泛应用于各种需要实时数据处理和分析的场景。实时计算Flink版通常结合SQL接口、DataStream API、以及与上下游数据源和存储系统的丰富连接器,提供了一套全面的解决方案,以应对各种实时计算需求。其低延迟、高吞吐、容错性强的特点,使其成为众多企业和组织实时数据处理首选的技术平台。以下是实时计算Flink版的一些典型使用合集。
|
19天前
|
消息中间件 监控 Kafka
联通实时计算平台问题之Flink状态后端数据量较大时,问题排查要如何进行
联通实时计算平台问题之Flink状态后端数据量较大时,问题排查要如何进行
|
26天前
|
消息中间件 监控 Kafka
实时计算 Flink版产品使用问题之怎么调整Flink Web U显示的日志行数
实时计算Flink版作为一种强大的流处理和批处理统一的计算框架,广泛应用于各种需要实时数据处理和分析的场景。实时计算Flink版通常结合SQL接口、DataStream API、以及与上下游数据源和存储系统的丰富连接器,提供了一套全面的解决方案,以应对各种实时计算需求。其低延迟、高吞吐、容错性强的特点,使其成为众多企业和组织实时数据处理首选的技术平台。以下是实时计算Flink版的一些典型使用合集。
|
2月前
|
SQL 关系型数据库 MySQL
实时计算 Flink版操作报错合集之从mysql读数据写到hive报错,是什么原因
在使用实时计算Flink版过程中,可能会遇到各种错误,了解这些错误的原因及解决方法对于高效排错至关重要。针对具体问题,查看Flink的日志是关键,它们通常会提供更详细的错误信息和堆栈跟踪,有助于定位问题。此外,Flink社区文档和官方论坛也是寻求帮助的好去处。以下是一些常见的操作报错及其可能的原因与解决策略。
|
2月前
|
存储 JSON Kubernetes
实时计算 Flink版操作报错合集之 写入hudi时报错,该如何排查
在使用实时计算Flink版过程中,可能会遇到各种错误,了解这些错误的原因及解决方法对于高效排错至关重要。针对具体问题,查看Flink的日志是关键,它们通常会提供更详细的错误信息和堆栈跟踪,有助于定位问题。此外,Flink社区文档和官方论坛也是寻求帮助的好去处。以下是一些常见的操作报错及其可能的原因与解决策略。
|
2月前
|
SQL 流计算
实时计算 Flink版操作报错合集之怎么向一个未定义列的表中写入数据
在使用实时计算Flink版过程中,可能会遇到各种错误,了解这些错误的原因及解决方法对于高效排错至关重要。针对具体问题,查看Flink的日志是关键,它们通常会提供更详细的错误信息和堆栈跟踪,有助于定位问题。此外,Flink社区文档和官方论坛也是寻求帮助的好去处。以下是一些常见的操作报错及其可能的原因与解决策略。