AI 助理
备案控制台
开发者社区 大数据与机器学习 大数据开发治理DataWorks 正文

表格存储中mc表ots同步速度慢concurrent再加大，也没有效果，还有什么优化参数可以设置吗？

表格存储中mc表(按日分区，)-->ots同步速度慢，2500W条数据(一日的数据)，同步需要15分钟，增加了concurrent=6,throttle=false，concurrent再加大，也没有效果，还有什么优化参数可以设置吗？对mc源表分区再小点呢？对ots目标表预分区呢？集团内是万M网卡,网络IO没有打满。

lQLPJxbm-hepMxLNAjPNBEWwaJKRD7Y8bc8De3-3bgBLAA_1093_563.png

DATAX的调优参数多点，但是阿里dataworks的ots同步配置文件，没那么多调优参数。

lQLPJxbm-kpTKm7NAe3NBHGw6QymFk5nQJsDe4AKYwBhAA_1137_493.png

展开
收起
fuxixi 2022-11-28 15:14:56 410 分享 版权

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
  • 宇航员w

    绑 ODPS 外表，用 SQL 导入试试。此答案整理自钉钉群“表格存储技术交流群-2”

    2022-11-29 09:12:29
    赞同 展开评论
问答分类：
存储 大数据开发治理平台 DataWorks 表格存储 数据集成 Data Integration
问答标签：
表格存储同步 表格存储ots 表格存储优化 表格存储表格存储 表格存储参数
问答地址：
开发者社区 > 大数据与机器学习 > 大数据开发治理DataWorks > 问答
相关问答
DataWorks
表格存储怎么把一个实例的一张表同步到另一个实例中？
90
0
0
请问下使用表格存储OTS出现这个问题，应该怎么处理？ 当前代码是使用并发方式进行存储的。
159
2
0
在表格存储中 OTS可以忽略大小写查询吗？
91
1
0
在表格存储中请问这三个同时使用，怎么优化查询速度呀？
63
1
0
DataWorks表格存储的增量怎么同步？
71
1
0
关于阿里云表格存储（OTS）的几个关键知识点是什么？
132
2
0
在表格存储中官网的spark这样读取OTS能否设置连接OTS的超时参数？
90
1
0
表格存储支持不同地域同步吗？
68
1
0
在表格存储中rabbitmq可以流入tablestore吗？
54
1
0
在表格存储中spark dataframe读写OTS的话使用如下会报错，如何解决?
96
0
0
大数据与机器学习

大数据开发治理DataWorks

DataWorks基于MaxCompute/Hologres/EMR/CDP等大数据引擎，为数据仓库/数据湖/湖仓一体等解决方案提供统一的全链路大数据开发治理平台。

我要提问
收录在圈子:
阿里云存储服务
194039
+ 订阅
阿里云存储基于飞天盘古2.0分布式存储系统，产品包括对象存储OSS、块存储Block Storage、共享文件存储NAS、表格存储、日志存储与分析、归档存储及混合云存储等，充分满足用户数据存储和迁移上云需求，连续三年跻身全球云存储魔力象限四强。

相关文章

  • 数据治理≠数据管理！90%的企业都搞错了重点！
  • 终于有人把数据仓库讲明白了！
  • 数据时代，如何让消费者敢把信任交给你？
  • 从 FlashAttention 出发：八个值得关注的技术迭代方向
  • 【微电网优化调度】五种多目标优化算法（MOPSO、MOAHA、NSGA2、NSGA3、MOGWO）求解微电网多目标优化调度比较研究【创新未发表】（Matlab代码实现）

    • 热门讨论

    热门文章

  • 数据来源：com.alibaba.fastjson.JSONException: syntax er
  • 阿里云磁盘大小是多少？
  • 数据服务报429请求次数过多咋办呀
  • Dataphin和 Dataworks 有啥区别呢？
  • DataWorks 运行spark节点，程序logger日志无法展示
  • DataWorks中78xxxxx_out的输出是什么?
  • DataWorks数据同步失败了，这个是什么意思？
  • 兄弟们啊，同步中DI、RI到底什么意思，是什么的缩写？
  • 为什么 任务一直提示 Job Queueing…？
  • DataWorks常用的SQL函数有哪些
    • 展开全部
  • 云上一指禅：大数据产品DataWorks每日问答
  • 2万字揭秘阿里巴巴数据治理平台DataWorks建设实践
  • DataWorks售前咨询
  • 火热邀测！DataWorks数据集成支持大模型AI处理
  • DataWorks操作报错合集之配置项目连通oss数据源 , 报The request signature we calculated does not match the signature you provided.如何解决
  • 欢迎加入DataWorks产品钉钉交流群
  • DataWorks Copilot 集成Qwen3-235B-A22B混合推理模型，数据开发与分析效率再升级！
  • 数据中台的智能进化—阿里巴巴十二年数据平台发展历程
  • IDC：阿里云获2021中国数据治理平台市场份额第一
  • DataWorks 千万级任务调度与全链路集成开发治理赋能智能驾驶技术突破
    • 展开全部
    还有其他疑问?
    咨询AI助理