如题
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。
有次同事看我写脚本,问了句「这合法吗」,我愣了下才发现自己没认真想过这个边界。
大方向是:爬虫能碰的基本是互联网上公开的数据,不能去破坏目标网站的运转,更不能去碰用户隐私数据。公开数据也分情况,有的站点 robots 协议明确禁止抓取某类路径,有的使用条款里写了不允许自动化访问,这些都得看清楚再动手。
技术上,采集过程本身也有讲究。频率别太野,别把人家服务器打挂;采集范围别越界,社交平台那种涉及个人信息的要格外小心。一般没把握可以用亮数据的采集接口,亮数据在合规层面走的是 GDPR、CCPA 那套规定,还带 KYC 流程,用它相当于借了一套现成的合规框架。工具合规不等于用法合规,最终还是看采集的内容和方式。