阿里云流计算中维表join VS 流join

简介:

最近业务上使用blink进行清洗数据,使用到了双流join和维表join,今天有同学问我流join和维表join有什么区别。在此我做个简单的说明,描述不对的地方,欢迎大家纠正,后面补充。

流式计算过程中常见的需求是为数据流去补充字段。我们需要补充字段通常会在另一个流中,或者在一个动态表中(一张不断变化的表,静态表可以理解为它的特例)。在另一个流中,这个比较适合于使用流join,例于补齐包裹表中的包裹明细信息。在一个静态表中,使用维表join要更好些,例如包裹明细关联商品明细表去得到商品体积和重量。

流join

流join比较简单,它是两个流之间的join,和传统批上join一样,都是两张表之间的join(table a join table b on a.x=b.x)。具体如何流join语法,这里不做细说,可以查看官方文档。这里主要从下面几个问题进行说明。

1、我们在对A 和 B 进行join时,经常会有这样的疑惑。如果A中的数据先到达,B中的数据后到达,会不会形成堵塞,不会的话又是怎样操作的?
这个是不会的,在对A进行JOIN B时,如果B中的数据没有达到,会先把A中的数据保存到checkpoint中去,等待B到达时再进行join。这里需要注意下的是,采用A LEFT JOIN B的话,虽然B没有达到,但是他还是会把结果传递到下一个节点。

2、流中的撤回是如何实现的?是不是所有场景都可以
撤回(retraction)可以理解成传统意义上的更新操作。可以看下面的例子
image

没有撤回会导致结果不正确。在数据源入口处增加last_value操作就可以实现撤回。

create view table_count as
SELECT 
word,
count(num) AS cnt 
FROM table by word

create view table_lastValue as 
SELECT
word,
last_value(cnt) as cnt
FROM table_count
GROUP BY word;

把上面图片中的SQL改成这样就行了。

SELECT
cnt,
count(word) as freq
FROM table_lastValue 
GROUP BY cnt 

image
注意: 如果采用的是metaq,并且已经消费了消息,这种情况下是没办法进行撤回的。

维表join

由于维表是一个不断变化的表,如果用传统的join是肯定不行的,因为我们不知道是join的哪一时刻。所以维表join在使用时要指定下的它的join时刻。详细的语法可以查看下官方文档。这里主要阐述下几个注意事项。

1、使用 JOIN 当前维表功能需要注意的是,JOIN行为只发生在处理的时刻(processing time),即使维表中的数据都被删了或者修改,之前JOIN流已经发出的关联上的数据也不会被撤回或改变。
2、维表JOIN的ON条件中一定要包括维表primary key的等值条件,因为需要根据key去查维表
3、在使用维表join时,如果数据量超过百万时,要使用LRU进行缓存,不要使用ALL。

此文章转载于智谨的原创!

目录
相关文章
|
消息中间件 Kafka Apache
Apache Flink 是一个开源的分布式流处理框架
Apache Flink 是一个开源的分布式流处理框架
1062 5
|
Java 流计算
【极数系列】Flink搭建入门项目Demo & 秒懂Flink开发运行原理(05)
【极数系列】Flink搭建入门项目Demo & 秒懂Flink开发运行原理(05)
824 3
|
运维 监控 数据可视化
软件质量保障体系建设
所谓的愿景,就是长期规划,我们要到哪里去的问题。一个组织或者团队,是一定要有愿景的。在软件质量保障领域,所谓的愿景概括来说就四个字:保质提效。
软件质量保障体系建设
|
Java Linux API
flink入门-流处理
flink入门-流处理
1183 0
|
消息中间件 资源调度 数据可视化
企业级分布式批处理方案
在企业级大数据量批处理需求场景中,如何通过分布式方式来有效地提升处理效率。本文将就常见批处理框架Spring Batch与SchdulerX进行比较讨论。同时基于阿里巴巴分布式任务调度平台SchedulerX2.0,实现一个分布式并行批处理方案,展示其相关的功能特性。
3171 0
|
缓存 负载均衡 Dubbo
Sentinel 集群限流设计原理
Sentinel 集群限流设计原理
Sentinel 集群限流设计原理
|
9月前
|
存储 SQL 监控
实时数仓和离线数仓还分不清楚?看完就懂了
本文通俗易懂地解析了实时数仓与离线数仓的核心区别,涵盖定义、特点、技术架构与应用场景,助你快速掌握两者差异,理解数据处理的“快慢之道”。
实时数仓和离线数仓还分不清楚?看完就懂了
|
缓存 NoSQL 应用服务中间件
【开发系列】秒杀系统的设计
【开发系列】秒杀系统的设计
|
存储 安全 算法
什么是数字签名?
【8月更文挑战第24天】
1686 0
|
NoSQL 关系型数据库 MySQL
分布式任务调度的几种实现
【2月更文挑战第2天】本文主要介绍了分布式任务调度的几种实现,使用Redis实现分布式锁方案,使用MySQL实现任务调度,开源框架 XXL-JOB等方案,最后需要考虑到负载均衡的问题。
495 1