AI 助理
备案控制台
开发者社区 大数据与机器学习 实时计算 Flink 正文

flink cdc pipeline source和sink 做过了怎么办？

flink cdc pipeline source和sink 做过了，由于flink kafka sink 不支持schema event，目前是是直接把schema event 直接json 存储写入kafka，且在Data change event 的kafka header 头重添加了 schema 信息？

展开
收起
夹心789 2024-05-28 16:46:21 67 分享 版权

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
  • 芯在这

    阿里云的cdas是比较前后两条数据的变化来进行schema change，此回答整理自钉群“Flink CDC 社区”

    2024-06-25 15:09:30
    赞同 展开评论
问答分类：
流计算 消息中间件 Kafka 数据格式 JSON 存储 实时计算 Flink版 云消息队列 Kafka 版
问答标签：
实时计算 Flink版CDC 实时计算 Flink版Source 实时计算 Flink版cdc source 实时计算 Flink版Sink 实时计算 Flink版source sink
问答地址：
开发者社区 > 大数据与机器学习 > 实时计算 Flink > 问答
相关问答
flink作为source jar作业代码里面消费位点的订阅方式 和控制台的有无状态启动有冲突吗？
86
1
0
在Flink CDC中，cdc3.1 pipeline同步到doris可以设置tinyint1is？
150
1
0
使用flink cdc pipeline 3.x 可以做到想增加同步表的时候，有这个相关文章吗？
100
1
0
在Flink CDC中，cdc3.1.1 pipeline 不支持正则表达式匹配表？
80
1
0
在Flink CDC中， cdc3.1使用pipeline方式同步，可以在启动命令时加资源参数吗？
93
0
0
在Flink CDC中，用pipeline 连接器 同步mysql数据到kafka报错了，缺少什么？
147
1
0
在Flink CDC中MySQL整库同步，Kafka Pipeline 不支持指定 分区吗？
117
1
0
在Flink CDC中CDC pipeline到kafka，报这个错，是不支持吗？
86
0
0
Flink CDC中batch模式下这两个source都是加载同一张表没有办法优化成一个读取任务么？
96
0
0
flink cdc sql将一个source，sink到pg和kafka，这种场景支持吗?
156
0
0
大数据与机器学习

实时计算 Flink

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎，提高作业开发运维效率。

我要提问

相关文章

  • 划重点｜云栖大会「AI 原生应用架构论坛」看点梳理
  • 函数计算进化之路：AI 应用运行时的状态剖析
  • Python生成器 vs 迭代器：从内存到代码的深度解析
  • 第三篇 - 外键维表的关联：SPL轻量级文件存储提速查询实践
  • 从音频与照片生成数字人视频：阿里云百炼工作流打造“超级数字人”全流程解析

    • 热门讨论

    热门文章

  • Flink CDC任务从savepoint/checkpoints状态中恢复作业错误问题
  • 在斗鱼，实时计算发展的历程如何？
  • 请问下大家有没有遇到过这个错:Caused by: java.lang.ClassNotFoundE
  • FlinkCDC MySQL 中 scan.startup.mode 用的是什么模式啊？
  • Flink解析json到表，有没有强大的插件？
  • 在Flink如何将多个JSON字段映射成一个表字段？
  • flink-CDC-3.0 mysql to doris 数据同步任务 经常报错
  • Apache Flink未授权访问上传导致的RCE漏洞，这个漏洞目前方案解决吗？
  • Flink这个未授权访问漏洞有什么解决方案吗？
  • 在Flink CDC中ogg可以做实时同步吗？
    • 展开全部
  • 数据仓库介绍与实时数仓案例
  • 独家专访阿里集团副总裁贾扬清：我为什么选择加入阿里巴巴？
  • 实时计算 Flink SQL 核心功能解密
  • 通过Flink实时构建搜索引擎的索引
  • Flume+Kafka+Flink+Redis构建大数据实时处理系统：实时统计网站PV、UV展示
  • 阿里云实时计算产品案例&解决方案汇总
  • 接着！！Apache Flink 全领域干货合集（持续更新）
  • Apache Flink 的迁移之路，2 年处理效果提升 5 倍
  • 基于实时计算（Flink）打造一个简单的实时推荐系统
  • Flink Checkpoint 问题排查实用指南
    • 展开全部
    还有其他疑问?
    咨询AI助理