Flink CDC采集的Mysql Binlog数据 序列化的时候 串列的？

问题分析

根据您的描述，Flink CDC在采集MySQL Binlog数据时，可能存在序列化问题，尤其是在后端修改表结构（例如使用ADD COLUMN AFTER指定列）的情况下。虽然目前问题尚未复现，但需要明确以下几点：

1. 表结构变更的影响：在全量阶段或增量阶段发生表结构变更时，可能会导致作业报错或无法同步表结构变更。
2. 序列化问题的可能性：如果表结构变更未被正确捕获或处理，可能导致下游数据的Schema不匹配，进而引发序列化异常。
3. 问题复现的潜在原因：即使当前问题未复现，仍需排查可能的风险点，例如Binlog格式、CDC配置、以及Source复用等。

以下是针对该问题的详细解答和建议。

解决方案

1. 确认Binlog格式

MySQL的Binlog格式对CDC作业的稳定性至关重要。如果Binlog格式为STATEMENT或MIXED，可能会导致数据解析失败或序列化问题。建议确保Binlog格式为ROW模式。

• 检查当前Binlog格式：

  SHOW VARIABLES LIKE 'binlog_format';
  

• 设置为ROW模式：

  SET GLOBAL binlog_format = 'ROW';
  

注意：修改Binlog格式可能需要重启MySQL服务，请提前评估影响。

2. 表结构变更的处理策略

在全量阶段或增量阶段发生表结构变更时，可能会导致作业报错或数据同步失败。以下是具体的处理建议：

• 全量阶段的表结构变更：

  • 全量阶段的表结构是在作业启动时确定的，并记录在系统检查点中。如果在全量阶段发生表结构变更（如ADD COLUMN AFTER），可能会导致Schema不匹配，抛出NullPointerException等异常。
  • 解决方案：
  • 停止当前作业。
  • 删除下游同步表。
  • 无状态启动作业，重新读取数据。

• 增量阶段的表结构变更：

  • 增量阶段通过Binlog捕获表结构变更。如果仅发生DDL变更但无数据更新，则不会触发下游表结构的同步。
  • 解决方案：
  • 确保上游表有新增数据或数据变更，以触发下游表结构的同步。
  • 如果发生不兼容的表结构变更（如删除列），需要重新同步数据。

3. 开启Source复用

如果作业中包含多张MySQL源表，建议开启Source复用功能，以减少数据库连接数和Binlog读取压力。

• 开启Source复用：

  SET 'table.optimizer.source-merge.enabled' = 'true';
  

• 注意事项：

  • 开启Source复用后，需要无状态启动作业，因为作业拓扑会发生变化。
  • 在VVR 8.0.8及8.0.9版本中，还需额外设置：

  SET 'sql-gateway.exec-plan.enabled' = 'false';
  

  • 不建议将pipeline.operator-chaining设为false，否则会增加序列化和反序列化的开销。

4. 检查序列化配置

如果表结构变更后出现序列化问题，可能是由于下游表的Schema未及时更新。建议检查以下配置：

• 确保下游表支持Schema变更：

  • 下游表应支持动态Schema更新，以适应上游表结构的变化。
  • 如果使用Hologres作为下游存储，可以通过hg_binlog_event_type自动为每行数据设置准确的Flink RowKind类型。

• 自定义序列化器：

  • 如果使用自定义序列化器，确保serverTimeZone参数与MySQL服务器时区一致，避免时间戳字段的时区差异。

5. 监控和日志排查

为了提前发现潜在问题，建议启用以下监控和日志功能：

• 监控指标：

  • 使用currentEmitEventTimeLag指标判断是否已完成全量数据同步。
  • 监控Task Manager的CPU使用率，避免因资源不足导致的finish split response timeout异常。

• 日志排查：

  • 检查MySQL CDC源表所在的TM日志，查找BinlogSplitReader is created日志，确认是否读取完全量数据。
  • 如果发生错误，查看具体报错信息并定位问题。

总结建议

1. 确保Binlog格式为ROW模式，避免因Binlog格式问题导致的数据解析失败。
2. 处理表结构变更时，遵循全量阶段和增量阶段的不同策略，必要时重新同步数据。
3. 开启Source复用，减少数据库连接数和Binlog读取压力。
4. 检查序列化配置，确保下游表支持动态Schema更新。
5. 启用监控和日志功能，及时发现和定位潜在问题。

通过以上措施，可以有效降低表结构变更对Flink CDC作业的影响，并避免序列化问题的发生。