大数据怎么样判断数据唯一性效率高？
我想用python对全网的网站进行扫描记录，想用mysql建个表记录每个网站的信息，数据量大后怎么能快速的判断这个网站已经记录过呢？
基本表结构有：id,url,name,datetime等相关字段，url想有唯一性，是拿到url查询一下判断没有数据再插入还是怎么办？如果做了唯一性索引直接插入时会报错，谢谢
或是有没有别的有效的解决办法？
展开
收起
1
条回答
写回答
写回答
-
Re大数据怎么样判断数据唯一性效率高？分布式kv数据库
对url分组
-------------------------
Re大数据怎么样判断数据唯一性效率高？推荐使用Bloom Filter存储已经抓取到的url.
Bloom Filter实际上是由一组哈希函数和一个字节列表组成.
详细介绍可以参考百度百科
http://baike.baidu.com/view/1912944.htm
和这篇博文.
http://www.dbafree.net/?p=36
如果使用Python可直接安装Pybloom包, 这里已经实现了Bloom Filter.2014-07-23 12:31:29赞同 展开评论 打赏
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
