AI 助理
备案控制台
开发者社区 问答 正文

[@倚贤][¥20]我的web应用经常被爬虫数据，导致宕机，有没有什么好的反爬手段？

我的web应用经常被爬虫数据，导致宕机，有没有什么好的反爬手段？

展开
收起
东陵碣石 2018-10-29 20:18:25 2252 分享
分享
 版权
举报

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

2 条回答
写回答
取消 提交回答
  • 倚贤
    全栈工程师，从事了 12 年以 Java 语⾔为主的软件开发工作，热衷于整合框架与开发工具，关注 交互设计，喜欢写技术博客(http://codelife.me/)，Linux拥趸，问题终结者。近期开始学习和关注 Elixir 函数语言，合作翻译了《Elixir 程序设计》。
    1. 如果某个 IP 访问超过阈值，封掉
    2. 会话超过阈值，封掉
    3. 识别 agent，标识是爬虫的，封掉
    2019-07-17 23:10:55 举报
    赞同 评论

    评论

    全部评论 (0)

    登录后可评论
  • 凉粉
    凉粉。。

    可以在网关通过userAgent 识别爬虫，然后返回404或其他，可以屏蔽大多数爬虫了。

    2019-07-17 23:10:54 举报
    赞同 评论

    评论

    全部评论 (0)

    登录后可评论
问答分类：
数据采集
问答标签：
web数据 爬虫数据 web应用 爬虫应用 爬虫手段
问答地址：
开发者社区 > 大数据 > 问答
相关问答
Web应用防火墙安全报表无数据
65
1
0
视觉智能平台这个处理结果返回的数据怎么在web浏览器查看处理好的图片？
71
2
0
阿里云验证码2.0行为验证码除了应用登录/注册/获取验证码/防爬虫 还可以应用哪些业务场景呢？
84
1
0
Flink CDC我使用爬虫一次插入数据到ods层，数量为250条，这种情况是否遇到过？
90
1
0
我是用爬虫获取数据全量存储到ods层，使用的按最新的同步吗？
70
1
0
datax或datax-Web可以实现表关联抽取数据吗
1132
5
0
modelscope使用自己的数据训练生成好了pt权重文件 怎么部署成EAS的WEB AI应用呢？
234
2
0
DataWorks这里的数据对我分析独享集成资源很有价值，怎么把这个数据弄下来？不会让我写爬虫脚本吧
72
1
0
在 Serverless 形态下，如何处理 PHP Web 应用的数据持久化问题？
60
1
0
函数计算FC点击web ui域名，页面中只有一串JSON数据，怎么回事？
60
1
0