AI 助理
备案控制台
开发者社区 问答 正文

爬虫中http的请求头user-agent有什么用？

爬虫中http的请求头user-agent有什么用？

展开
收起
游客5n3d3br4o5qn4 2021-11-18 00:08:48 763 分享 版权

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
  • 游客3htxdkat3ir3e

    user-agent:告诉对方服务器是什么客户端正在请求资源，爬虫中模拟浏览器非常重要的一个手段 爬虫中通过把user-agent设置为浏览器的user-agent，能够达到模拟浏览器的效果 cookie：获取登录只有才能够访问的资源

    2021-11-18 00:09:14
    赞同 展开评论
问答分类：
数据采集
问答标签：
HTTP请求头 HTTPS爬虫 HTTP user-agent 爬虫http 爬虫user-agent
问答地址：
开发者社区 > 大数据 > 问答
相关问答
在函数计算环境，python代码向外发起http请求，请求头会被阿里云修改么？
85
2
0
函数计算 http的异步调用你们会改变请求的头信息? 比如User-Agent?
65
1
0
https://www.185329.com 百度蜘蛛爬虫问题请教
128
0
0
七天https://www.185329.com一条蜘蛛爬虫都没有
201
1
0
阿里函数计算中请问云函数的http请求头限制在哪里配置？
184
4
0
SchedulerX Http任务调用 如何配置head 请求头啊？
106
2
0
函数计算，http触发函数，增加请求头，执行异步调用，返回code 202是怎么回事？
177
2
0
函数计算，http触发函数，增加请求头，就可以执行异步调用么？
153
2
0
帮我盾下，没有蜘蛛爬虫https://www.apltea.com
98
0
0
请问seata中，1.6.1 http调用，明明a服务请求头加了xid，为什么在b服务却获取不到？
321
3
0