问题一:这里是oracle的2.3.0的Flink CDC 那我的这个有什么具体的问题?
The db history topic or its content is fully or partially missing. Please check database history topic configuration and re-execute the snapshot. 大佬们 这个错是什么问题? 1. 这里是oracle的2.3.0的Flink CDC 那我的这个有什么具体的问题
参考回答:
oracle不会
关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/567352
问题二:这里是oracle的2.3.0的Flink CDC 这个错是什么问题?
The db history topic or its content is fully or partially missing. Please check database history topic configuration and re-execute the snapshot. 大佬们 这个错是什么问题? 这里是oracle的2.3.0的Flink CDC
参考回答:
这个错误通常表示Flink CDC在执行快照时,无法从数据库历史主题中获取到正确的数据。这可能是由于以下原因导致的:
- 数据库历史主题的配置不正确:请检查你的数据库历史主题的配置,包括主题名称、主题类型(例如,Kafka、RabbitMQ等)以及主题的连接信息(例如,Broker地址、端口、用户名、密码等)。
- 数据库历史主题的内容丢失:请检查你的数据库历史主题的内容是否完整。如果你最近对数据库进行了大规模的删除或迁移操作,可能会导致主题的内容丢失。
- Flink CDC的配置不正确:请检查你的Flink CDC的配置,包括任务名称、任务类型(例如,Source、Sink等)以及任务的连接信息(例如,JobManager地址、端口、用户名、密码等)。
- Flink CDC的版本不兼容:请检查你的Flink CDC的版本是否与你的数据库和历史主题的版本兼容。如果不兼容,可能会导致无法正确地从数据库历史主题中获取数据。
关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/567351
问题三:flink cdc delete源表,目标表未删除
flink cdc delete源表,目标表未删除,
如下:
INSERT INTO sink_table (
id,
device_id,
name,
device_type,
device_name,
gateway_serial_num,
points_model_id,
device_uniq_code,
etl_time)
SELECT
t1.id,
t1.device_id,
t2.device_type,
t2.device_name,
t2.gateway_serial_num,
t2.points_model_id,
CONCAT_WS('-', t1.station_id, t1.data_object_id),
CURRENT_TIMESTAMP
FROM table_a t1
LEFT JOIN
(
SELECT
id,
device_id,
name AS device_name,
cim_code AS device_type,
gateway_serial_num,
points_model_id
FROM table_b
UNION ALL
SELECT
id,
dg_id AS device_id,
name AS device_name,
type AS device_type,
gateway_serial_num,
CAST(NULL AS BIGINT) AS points_model_id
FROM table_c
) t2
ON t1.device_id = t2.id;
参考回答:
这个问题可能是由于Flink CDC在处理源表和目标表之间的删除操作时出现了问题。为了解决这个问题,你可以尝试以下方法:
- 检查源表和目标表的数据是否一致。如果源表中有数据被删除,那么目标表中应该对应的记录也应该被删除。你可以使用
SELECT
语句来检查这两个表的数据是否一致。 - 检查Flink CDC的配置是否正确。确保你的Flink CDC配置中包含了正确的源表和目标表信息,以及正确的数据转换逻辑。
- 查看Flink CDC的日志。Flink CDC会生成一些日志信息,这些信息可以帮助你了解CDC的处理过程和可能出现的问题。你可以查看这些日志信息,以获取更多关于问题的详细信息。
关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/567121
问题四:Flink CDC这个报错呢,是因为少jar不?
Flink CDC这个报错呢,是因为少jar不?
参考回答:
看下ddl,先把最后一行注释掉,先不用增量快照框架读取,测试下普通的能不能运
你没装 decoderbufs 插件,试下那个配置项用 wal2json 或者 pgoutput
pgoutput 这个默认就有,可以用这个试试
关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/567031
问题五:Flink CDC还是刚刚的报错,这种情况和数据库配置有关系吗?
Flink CDC还是刚刚的报错,这种情况和数据库配置有关系吗?navicat能连接,开放出来了
参考回答:
为啥用两个,最红框的就行,最下面的删除
关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/567030