2
条回答
写回答
写回答
-
- 数据抓取后，下一步的处理都是数据入库或将数据存储在文件上，而数据的下一步如何使用，这个就属于爬虫的另一个范畴，比如用于数据分析，建模、人工智能的训练数据等等，数据的使用方式不同，从而导致数据结构有所不同，这个需要根据实际需求而定。
- 关于爬虫的新增数据。这个要分析网站的新增规则，不管新增规则如何，判断数据新增都是根据数据的唯一性进行判断，大多数的网大多数的网站的数据都是有ID属性，具有唯一性，可以通过判断数据的ID进行判断数据是否新增。而新增方式是各种各样，这个需要结合网站设计进行分析。大多数新增方式都是将新增数据排在第一页，当遍历数据时，首先判断数据ID是否已入库，若已入库可中断遍历，否则入库处理。
2024-05-28 15:02:37赞同 1 展开评论 打赏 -
你可以定时SQL任务执行后，您可以在定时SQL任务的执行实例区域查看执行情况。这里会显示任务执行时间、处理的数据量等信息，帮助您了解每次执行处理了多少新数据。
2024-05-28 14:18:28赞同 1 展开评论 打赏
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
