开发者社区> 问答> 正文

如何对XML大文件中的数据去重插入MySQL

目的:xml->mysql
困难:xml中可能存在重复数据,但xml文件有400+M
问题:如何去掉这些重复数据?
目前的想法:每次insert数据之前,把待插数据和表存数据进行比对,但感觉效率不高。
请教:有没有更好的办法?

展开
收起
蛮大人123 2016-02-11 14:39:03 2250 0
1 条回答
写回答
取消 提交回答
  • 我说我不帅他们就打我,还说我虚伪

    才 400M不算是大文件
    先做去重再导入数据呗。才400M的数据,拿个 dict 存需要去重的 key 就可以了。

    2019-07-17 18:40:42
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
搭建电商项目架构连接MySQL 立即下载
搭建4层电商项目架构,实战连接MySQL 立即下载
PolarDB MySQL引擎重磅功能及产品能力盛大发布 立即下载

相关镜像