FlinkSQL join 维表后一定会变成 upsert流吗？
请教各位一下，我使用 FlinkSQL 编写任务时，kafka source -> MySQL sink 不设置主键，查看了一下 request mode 是 [INSERT] ，也就是普通的 append 流，这很正常。
但是当我关联上维表后，发现 request mode 变成了 [INSERT, UPDATE_BEFORE, UPDATE_AFTER, DELETE],这时异常报错会要求我给 sink 表设置主键，当我设置上主键后就会变成了 upsert 流。
upsert流底层实现原理是 INSERT INTO ... DUPLICATE KEY UPDATE，由于我采用的是阿里云的ADB数据库，该语法在 ADB 中主键是不支持update的，这会导致报错。且业务上我只想以 append 流的形式插入表。
请问各位有什么好的解决方案吗，关联上维表但是还是保持 append流？
// 维表 CREATE TABLE DimTable ( //省略字段 ) WITH ( 'connector' = 'jdbc', 'url' = '*******', 'table-name' = 'v2_dim_game_id', 'driver' = 'com.mysql.cj.jdbc.Driver', 'username' = '******', 'password' = '**', 'lookup.cache.max-rows'='5000', 'lookup.cache.ttl' = '60s', 'lookup.max-retries'='3' );*来自志愿者整理的flink邮件归档
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
在Flink SQL中，当你关联维表（Lookup Join）时，Flink会自动推断出sink端需要支持全量更新逻辑，以应对维表join后数据可能的变化情况，因此默认会尝试使用UPSERT模式来确保数据的一致性。但如你所述，阿里云AnalyticDB（ADB）不支持主键更新，这导致直接使用UPSERT模式不可行。
如果你的业务需求是仅需将数据以追加（Append）的方式写入ADB，且不涉及基于维表更新已有记录的需求，你可以尝试以下几种解决方案：
-
禁用 changelog 产出：理论上，如果你能确保上游数据源和维表的数据是幂等的，或者你不在乎下游sink中可能出现的重复数据问题，可以尝试通过自定义TableSink或修改sink配置来避免生成changelog流。然而，标准的Flink JDBC sink并不直接提供这样的配置选项，你可能需要实现一个自定义sink。
-
预处理维表数据：在Flink作业之前，先通过其他手段（如单独的SQL查询、Spark Job等）将维表数据与原始数据进行预关联，并将结果直接作为Append流写入ADB。这样就绕过了Flink SQL中自动产生的UPSERT逻辑。
-
使用两阶段处理：
- 第一步，执行你的Flink SQL，但不直接sink到ADB，而是sink到另一个支持UPSERT操作的存储系统（如Kafka topic），这个topic作为中间结果。
- 第二步，部署一个独立的处理流程（例如，使用DataX、Flink CDC或自定义程序），从该Kafka topic读取数据并转换为纯插入（INSERT）语句，然后写入ADB。这种方式下，你需要自己处理去重逻辑，确保不会因重复数据导致问题。
-
调整维表关联策略：如果维表关联的目的主要是为了丰富数据而不是更新现有记录，考虑是否可以采用广播（Broadcast）方式而非lookup join。广播维表通常用于静态数据的简单扩展，不会触发sink端的更新逻辑，但请注意这会增加状态管理的复杂度和资源消耗。
-
利用Flink SQL的 temporal table join：如果维表关联是为了根据时间戳匹配最新的维度信息，可以尝试使用temporal table join，这种情况下，你可以控制输出逻辑，保持append模式。但需注意，这要求你的数据流和维表都有时间戳字段，并且设计好如何处理时间窗口。
请根据你的具体场景和资源条件选择最合适的方案。
