备案控制台

开发者社区> 问答> 正文

mongodb千万级写入怎么优化：报错

从mysql数据库通过java程序导入单表1300w到mongodb，花了大概50分钟，前1000w条数据中每100w条大概要3分钟，之后的300多w条就差不多每100w条要5到6分钟，之后再从其他的mysql表里面导入数据就会越来越慢，请问可以从那些方面可以优化mongodb的写入操作？
这是我记录的花费时间

可以确定的是如果只在mysql里面遍历读取这1300w条数据，花费时间是10分钟左右。

展开

收起

kun坤 2020-06-07 16:45:25 577 0

1 条回答

写回答

取消提交回答

kun坤

可以生成好文档数据，然后用mongoimport 导入，速度超快！
######回复 @wf2311 : mongodb无列的概念，你可以使用java生成好完整的k-v数据文档，再批量执行导入。######谢谢回答，我之前试过将mysql导成csv格式的文件，再通过mongoimport导入mongodb，这样的确很快，但是导入过后的数据的列名都变了，请问有什么办法自定义保存的列名######

加大内存，mongodb 的热数据是保存在内存的，内存用完了，开始读写硬盘的数据跟MYSQL就差不多了

2020-06-07 16:45:30

赞同展开评论打赏

问答分类：

NoSQL 关系型数据库 MySQL Java MongoDB 数据库云数据库 MongoDB 版云数据库 RDS MySQL 版

问答标签：

云数据库 MongoDB 版优化云数据库 MongoDB 版报错

问答地址：

开发者社区 > 数据库 > 问答

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

相关问答

DTS迁移MongoDB报错The client driver may require an ...

32

1

0

flinkcdc mongodb 报错？

65

1

0

Flinkcdc去读mongodb4.2的时候报错?

58

0

0

flink-cdc 2.4 读mongodb某一点位，稳定报错，日志在上面文档？

41

1

0

使用flinksql mongodb-cdc执行报错怎么办？

472

1

0

dataworks数据源连接外部mongodb报错，网络通第三方工具连接数据库正常

242

1

0

mongodb导dataworks，string类型可以导，array就报错不行，我想要成json形

536

1

0

cdc增量同步MongoDB,有什么办法排查具体原因或者优化吗？

311

1

0

MongoDB异常报错：cursor not found

468

2

0

DataWorks离线同步MongoDB Reader 报错：Could not find hos

234

1

0

问答排行榜

最热

最新

1 【大咖问答】对话PostgreSQL 中国社区发起人之一，阿里云数据库高级专家德哥 1818960

2 据说在家办公的程序员是这样写代码的？ 1793074

3 阿里云开放端口权限 690237

4 如何升级配置 536274

5 【藏经阁一起读（27）】本周推荐《Apache Flink案例集（2022版）》，你有哪些心得？ 522810

6 【精品问答】python技术1000问(1) 514118

7 Flink Forward Asia 2021 有奖问答 512896

8 OceanBase 使用动画（持续更新） 359367

9 阿里云LNAMP(Linux + Nginx + Apache + MySQL + PHP)环境一键安装脚本 329798

10 OSS存储服务-客户端工具 321542

11 为体验实验室取一个新名字。 307468

12 企业邮箱发送邮件时，若出现投递失败产生退信，内容提示包含如下： the mta server of * reply:550 failed to meet SPF requirements 或者 the mta server of 163.com — 163mx01.mxmail.netease.com(220.181.14.141) reply:550 MI:SPF mx14,QMCowECpA0qTiftVaeB3Cg—.872S2 1442548128 http://mail.163.com/help 304069

13 Win Server 2003-2016 加密勒索事件必打补丁合集 295322

14 FLASH播放器，在IE浏览器下显示请确定您的域名已完成备案和CNAME绑定 284172

15 安全组详解，新手必看教程 277337

16 写code还是做管理，开发者如何进行职业规划？ 269106

17 惊喜翻倍：免费ECS+免费环境配置~！(ECS免费体验6个月活动3月31日结束) 255877

18 阿里云手机和阿云浏览器连接问题专帖 235686

19 支付宝H5 下载的时候，提示【请确保该下载文件来源安全,如需浏览,请长按网址复制后使用浏览器访问】 226328

20 请问阿里云邮箱如何开启SMTP服务啊！ 225844

1 “云+AI”能够孵化出多少可能？ 144

2 FFA 2024 大会门票免费送！AI时代下大数据技术未来路在何方？ 620

3 AI时代，存力or算力哪一个更关键？ 876

4 求宜搭关联表单的更新方法！！！ 111

5 全网寻找 #六边形战士# 程序员，你的 AI 编码助手身份标签是什么？ 1015

6 老哥们有个需求想请教一下，十分感谢 105

7 关于开发者的100件小事，你知道哪些？ 1049

8 AI助力，短剧迎来创新热潮？ 639

9 "ModelScope默认的下载位置是在哪里？ 258

10 1024程序员节，开发者们都在参与社区的哪些活动？ 2293

11 关于文本框校验自定义函数的问题 363

12 执行docker search nginx 报错超时 254

13 百问求答第四期-回答问题即有机会拿冬季取暖器 976

14 宜搭-集成&自动化，怎么实现定时自动获取普通表单里的所有数据，并更新该表单里的某列数据？ 261

15 有没有大佬知道：宜搭的流程表单里如何通过js面板给成员组件赋值？ 338

16 百问求答第四期-回答问题即有机会拿冬季取暖器 752

17 域名内网可以正常访问，外网访问不了 404

18 普通人能用阿里云做什么？ 233

19 宜搭表单数据管理增加全部删除功能 298

20 获取Access Token报code: 400, body is mandatory 426

相关课程

更多

MongoDB精讲课程（下）

227

25

去学习

MongoDB精讲课程（上）

363

24

去学习

MongoDB完全自学手册

2718

45

去学习

云数据库MongoDB版使用教程

6238

7

去学习

快速掌握 MongoDB 数据库

8207

22

去学习

MongoDB快速入门

1578

7

去学习

推荐问答

乘风问答官招募中！机械键盘免费拿

相关电子书

更多

开源数据库 MongoDB 专场 MongoDB疑难杂症分析及优化 立即下载

MongoDB多数据中心的方案选型之路 立即下载

饿了么高级架构师陈东明：MongoDB是如何逐步提高可靠性的 立即下载

相关实验场景

更多