文件io和数据库插入太慢
新学python,在做一个把爬虫爬下来的股票数据从文件插入到mysql数据库,速度很慢,不知道瓶颈是文件处理还是sql插入问题,望大神不吝赐教,感激不尽!
文件格式是形如:
两个多小时才插入45W条数据,怎么才能提速一点呢.
展开
收起
1
条回答
写回答
写回答
-
我说我不帅他们就打我，还说我虚伪常识性的优化：批量插入，然后再提交，而不是插一条提交一条。
另一个常识性的优化：使用 executemany 来一次执行多条（但也不要太多）行的插入。
最后，但是也是非常重要的，请尽量不要自己拼接 SQL 语句！.execute 方法可以接受两个参数，第一个是 SQL 模板，第二个是参数值的 tuple。2019-07-17 18:41:04赞同 展开评论 打赏
相关问答
问答排行榜
最热
最新
推荐问答
相关文章
