备案控制台
开发者社区> 问答> 正文

防范网站爬虫，应该怎么来提高爬取的难度 ？

防范网站爬虫，应该怎么来提高爬取的难度 ？

展开
收起
珍宝珠 2019-11-11 11:11:50 2821 0
1 条回答
写回答
取消 提交回答
  • 珍宝珠

    1.判断headers的User-Agent；
    2.检测同一个IP的访问频率；
    3.数据通过Ajax获取；
    4.爬取行为是对页面的源文件爬取，如果要爬取静态网页的html代码，可以使用jquery去模仿写html。

    2019-11-11 12:48:42
    赞同 展开评论 打赏
问答分类：
数据采集
问答标签：
爬虫爬取 爬虫网站 网站爬虫
问答地址：
开发者社区 > 大数据 > 问答

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

相关问答
爬虫如何只爬取更新数据
22
1
0
爬虫去重有哪些解决方案以及python scrapy爬取超时怎么处理？
9
1
0
如何写爬虫程序爬取内容经常变化的网站的内容？
11
1
0
在阿里云RPA我用编码的方式写，用来爬虫，最后怎么把爬取的数据返出去？
130
2
0
项目爬虫，每次只能爬取一个表中的2-3个字段，然后我需要把这几次爬取的合并成一张表。有什么解决方案
343
1
0
阿里服务器 网站不收录查询百度蜘蛛爬虫发起抓取，httpcode返回码是5XX求解
2167
2
0
python爬虫中搜索引擎是如何获取一个新网站的URL的呢？
1436
1
0
python爬虫爬取网页的三大特征是什么呢？
1447
1
0
微博爬虫爬取不了内容，但也没报错?报错
1181
1
0
爬虫项目用代理ip爬https网站就报错，急急急，求高手不吝赐教。错误信息：(S?400报错
1080
1
0
问答排行榜
最热
最新
1 通过阿里云代备案系统进行个人快速备案 2699889
2 【大咖问答】对话PostgreSQL 中国社区发起人之一，阿里云数据库高级专家 德哥 1818314
3 据说在家办公的程序员是这样写代码的？ 1792338
4 阿里云开放端口权限 689923
5 如何升级配置 536074
6 【藏经阁一起读（27）】本周推荐《Apache Flink案例集（2022版）》，你有哪些心得？ 522460
7 【精品问答】python技术1000问(1) 514001
8 Flink Forward Asia 2021 有奖问答 512807
9 Linux Bash严重漏洞修复紧急通知（已全部给出最终修复方案） 456921
10 OceanBase 使用动画（持续更新） 359266
11 阿里云LNAMP(Linux + Nginx + Apache + MySQL + PHP)环境一键安装脚本 329722
12 OSS存储服务-客户端工具 321336
13 为体验实验室取一个新名字。 307317
14 企业邮箱发送邮件时，若出现投递失败产生退信，内容提示包含如下： the mta server of * reply:550 failed to meet SPF requirements 或者 the mta server of 163.com — 163mx01.mxmail.netease.com(220.181.14.141) reply:550 MI:SPF mx14,QMCowECpA0qTiftVaeB3Cg—.872S2 1442548128 http://mail.163.com/help 303858
15 Win Server 2003-2016 加密勒索事件必打补丁合集 295162
16 FLASH播放器，在IE浏览器下显示请确定您的域名已完成备案和CNAME绑定 283657
17 安全组详解，新手必看教程 277260
18 写code还是做管理，开发者如何进行职业规划？ 268469
19 惊喜翻倍：免费ECS+免费环境配置~！(ECS免费体验6个月活动3月31日结束) 255828
20 阿里云手机和阿云浏览器连接问题专帖 235631
1 国内AI大模型高考数学成绩超GPT-4o，如何看待这一结果？ 511
2 如何避免“写代码5分钟，调试2小时”的尴尬？ 430
3 通义灵码生成Git Commit的时候，偶尔生成中文，偶尔生成英文，根本无法控制生成的语言。 107
4 一键部署3D卡通风格模型，分享部署过程及使用体验 504
5 展示你通过AI修饰的自然风光照片，并讲述你的拍摄和编辑过程 884
6 机器学习PAI现在一直在重试，怎样停掉？ 213
7 请问机器学习PAI eas服务拉取dockerhub失败怎么办？ 169
8 请教下机器学习PAI的代码配置没有链接测试吗？ 100
9 平头哥芯片W800:芯片如何购买？ 137
10 阿里云Grafana升级10后 已有的 飞书webhook 报警机器人不再工作。 请问如何排查？ 145
11 请问通义灵码IDEA生成Git Commit Message 如何默认生成中文注释 100
12 Nacos登录密码忘记了如何修改？ 250
13 你知道APP是怎么开发的吗？ 1478
14 如何提高企业的业务稳定性？ 619
15 钉钉宜搭，A提交一个表单，如何设置该表单只能给B看？ 138
16 百问求答 | 回答问题即有机会得米家落地扇 326
17 集成&自动化：3层触发时，新增和删除触发正常，但编辑时不正常 107
18 分享AI代码助手的使用体验 756
19 分享一张AI生成的“老照片”，讲讲你与它的故事 999
20 idea上的通义灵码生成git提交消息老是会变成英文 没有切换中文的入口 268

相关课程

更多
  • Python爬虫实战
    40033
    6
    去学习
  • Python网络爬虫实战
    2430
    3
    去学习
    • 推荐问答
    乘风问答官招募中！机械键盘免费拿

    相关文章

  • Python 爬虫数据抓取（10）：LXML
  • 阿里云百炼模型训练评测
  • StaleElementReferenceException 不再是问题：Google Colab 上的 Selenium 技巧
  • 笛卡尔积计算在关系数据库中的高效应用
  • 爬虫：闲鱼商品详情数据接口（goodfish.item_get）

    • 相关电子书

    更多
    • Python第五讲——关于爬虫如何做js逆向的思路 立即下载
    如何产生威胁情报-高级恶意攻击案例分析 立即下载
    代码未写，漏洞已出——谈谈设计不当导致的安全问题 立即下载

    相关实验场景

    更多
  • 网站用户流量分析—适用于电商网站、资讯网站、游戏主站等各类Web站点场景
    2572
    2.0小时
    去实验