AI 助理
备案控制台登录注册
开发者社区 大数据与机器学习 大数据开发治理DataWorks 正文

DataWorks中kafka同步odps数据条数为0，为什么不立即执行完呢？

DataWorks中kafka同步odps数据条数为0，为什么不立即执行完呢？

展开
收起
真的很搞笑 2023-09-06 14:09:34 84 发布于黑龙江 分享
分享
 版权
举报

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
  • 芯在这

    您好，界面设置同步策略：1分钟读取不到新数据，但是用户12分钟都没有读取到数据一直在运行，如下图：
    image.png
    问题原因：这是因为kafka离线同步每个分区需要启动一个子线程读取，并且读取时间至少1分钟，因为kafka的分区有12个，然后并发设置的味1，所以任务至少也要跑12分钟才能跑完，因为同步任务本身并不知道分区有没有数据，是要读了才知道的。，此回答整理自钉群“DataWorks交流群(答疑@机器人)”

    2023-09-06 15:07:29 举报
    赞同 评论

    评论

    全部评论 (0)

    登录后可评论
问答分类：
消息中间件 分布式计算 DataWorks Kafka MaxCompute 大数据开发治理平台 DataWorks 云原生大数据计算服务 MaxCompute 云消息队列 Kafka 版
问答标签：
同步云原生大数据计算服务 MaxCompute 大数据开发治理平台 DataWorks同步 云原生大数据计算服务 MaxCompute同步 大数据开发治理平台 DataWorks数据 大数据开发治理平台 DataWorks同步odps数据
问答地址：
开发者社区 > 大数据与机器学习 > 大数据开发治理DataWorks > 问答
相关问答
DataWorks
在大数据计算MaxCompute中同步数据报错，kafka中一直有数据在产出，如何解决？
57
0
0
DataWorks为什么mysql删除数据也会在odps增量同步？
98
1
0
DataWorks中odps的split函数怎么用？
88
1
0
大数据计算MaxCompute在odps上有一个kafka同步到es的离线任务 任务是这么配置的？
44
0
0
DataWorks在odps上有一个kafka同步到es的离线任务 任务是这么配置的 ？
50
1
0
dataworks从mongo抽取到odps 只能通过写datax的原生json抽取吗？
71
1
0
DataWorks运行中的odps的sql怎么关闭进程，停止运行的按钮点击不了了，有别的办法吗？
79
0
0
有技术方案使用 dataworks 从es抽取数据到odps吗？
85
2
0
DataWorks上支持ADS向ODPS（或oss）同步吗？
98
1
0
dataworks中kafka源头的公网数据开8个并发同步也很慢，是什么原因啊？
45
1
0
大数据与机器学习

大数据开发治理DataWorks

DataWorks基于MaxCompute/Hologres/EMR/CDP等大数据引擎，为数据仓库/数据湖/湖仓一体等解决方案提供统一的全链路大数据开发治理平台。

我要提问

相关文章

  • DMS+X：GenAI 时代的一站式 Data+AI 平台
  • JUC并发—9.并发安全集合二
  • 鹰角网络：EMR Serverless Spark 在《明日方舟》游戏业务的应用
  • 立马耀：通过阿里云 Serverless Spark 和 Milvus 构建高效向量检索系统，驱动个性化推荐业务
  • LLM用于科学假设生成：探索与挑战

    • 热门讨论

    热门文章

  • dataworks里面的stg层、ods层、dwd层、dws层、是怎么分层的呢？
  • 数据来源：com.alibaba.fastjson.JSONException: syntax er
  • Dataphin和 Dataworks 有啥区别呢？
  • DataWorks我该如何访问A项目安装了项目的package资源？
  • 数据服务报429请求次数过多咋办呀
  • DataWorks failed: ODPS-0130071:[0,0] Semantic ana？
  • DataWorks No module named 'aliyunsdkcore'？
  • trying to delete from a non-transactional table is
  • DataWorks贴源层 共享层 都是什么？
  • 阿里云有敏感词检测的API吗？可以用在PyODPS吗？
    • 展开全部
  • 长文详解｜DataWorks Data+AI一体化开发实战图谱
  • 2万字揭秘阿里巴巴数据治理平台DataWorks建设实践
  • DataWorks售前咨询
  • DataWorks操作报错合集之配置项目连通oss数据源 , 报The request signature we calculated does not match the signature you provided.如何解决
  • 数据中台的智能进化—阿里巴巴十二年数据平台发展历程
  • DataWorks：新一代 Data+AI 数据开发与数据治理平台演进
  • 大数据公共数据集上线，免费试用TB级数据分析
  • 欢迎加入DataWorks产品钉钉交流群
  • 智能体Agent解析：用自然语言重构数据开发工作方式
  • 阿里云大数据各行业客户实践案例
    • 展开全部
    还有其他疑问?
    咨询AI助理
    AI助理

    你好，我是AI助理

    可以解答问题、推荐解决方案等