开发者社区> 问答> 正文

FlinkSQL join 维表后一定会变成 upsert流吗?

请教各位一下,我使用 FlinkSQL 编写任务时,kafka source -> MySQL sink 不设置主键,查看了一下 request mode 是 [INSERT] ,也就是普通的 append 流,这很正常。

但是当我关联上维表后,发现 request mode 变成了 [INSERT, UPDATE_BEFORE, UPDATE_AFTER, DELETE],这时异常报错会要求我给 sink 表设置主键,当我设置上主键后就会变成了 upsert 流。

upsert流底层实现原理是 INSERT INTO ... DUPLICATE KEY UPDATE,由于我采用的是阿里云的ADB数据库,该语法在 ADB 中主键是不支持update的,这会导致报错。且业务上我只想以 append 流的形式插入表。

请问各位有什么好的解决方案吗,关联上维表但是还是保持 append流?

// 维表 CREATE TABLE DimTable ( //省略字段 ) WITH ( 'connector' = 'jdbc', 'url' = '*******', 'table-name' = 'v2_dim_game_id', 'driver' = 'com.mysql.cj.jdbc.Driver', 'username' = '******', 'password' = '**', 'lookup.cache.max-rows'='5000', 'lookup.cache.ttl' = '60s', 'lookup.max-retries'='3' );*来自志愿者整理的flink邮件归档

展开
收起
彗星halation 2021-12-02 13:18:41 468 0
0 条回答
写回答
取消 提交回答
问答排行榜
最热
最新

相关电子书

更多
基于 Flink SQL + Paimon 构建流式湖仓新方 立即下载
Flink SQL in 2020 立即下载
Flink Streaming SQL 2018 立即下载