开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink CDC读取kafka中的订单和订单明细数据,同步到sink表后,这一般是什么问题啊?

Flink CDC读取kafka中的订单和订单明细数据,同步到sink表后,sink表的数据数量一直跳来跳去,一会几百条一会变成几十条,这一般是什么问题啊?image.png
感觉总是最后一次数据【新产生的一小部分流数据】,会把sink表中所有历史数据都清空掉用的mysql: CREATE TABLE sink_sale_order_detail_rt
(
order_item_id bigint,
order_id bigint,
delivery_order_id bigint,
product_id bigint,
order_create_time bigint,
item_price decimal(10, 2),
user_id bigint,
user_action_type int,
order_sell_way int,
store_id bigint,
sale_id bigint,
order_creation_type int,
product_offline_sign int,
gmv_date date,
gmv_channel_name string,
gmv_action_name string,
PRIMARY KEY (order_item_id,order_id) NOT ENFORCED
) WITH (
'connector.type' = 'jdbc',
'connector.url' = 'jdbc:mysql://10.254.33.177:3306/beta2_data_screen?useUnicode=true&characterEncoding=utf-8',
'connector.table' = 'sale_order_detail_rt',
'connector.driver' = 'com.mysql.jdbc.Driver',
'connector.username' = 'test',
'connector.password' = 'test123',
'connector.write.flush.interval' = '1s'
);

展开
收起
真的很搞笑 2023-09-28 10:31:23 60 0
1 条回答
写回答
取消 提交回答
  • image.png
    换个idea能,此回答整理自钉群“Flink CDC 社区”

    2023-09-28 10:55:42
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Java Spring Boot开发实战系列课程【第16讲】:Spring Boot 2.0 实战Apache Kafka百万级高并发消息中间件与原理解析 立即下载
    MaxCompute技术公开课第四季 之 如何将Kafka数据同步至MaxCompute 立即下载
    消息队列kafka介绍 立即下载