百度蜘蛛抓取异常,同一页面抓取返回不同状态码;-问答-阿里云开发者社区-阿里云

开发者社区> 问答> 正文

百度蜘蛛抓取异常,同一页面抓取返回不同状态码;

2016-12-29 15:08:46 12193 2

baiduspider抓取同一个页面返回不同的状态码,第一次是返回302状态码,第二次是返回200状态码;网站有PC端和移动端,URL地址写的是相对地址,默认返回PC的源码。请教各位大神可能的原因是什么?在线等。。。
tmp01

取消 提交回答
全部回答(2)
  • daniel_xt
    2019-07-17 20:38:01

    一般智能一些的爬虫是有follow 302跳转功能的,所以你看到302和200都是成对出现的吧?

    0 0
  • superphper
    2019-07-17 20:38:01

    从日志上看,百度显然是landing到具体页面上才出发了302跳转,由此可见该动作是由web站点触发,请查看具体的302跳转目标,请检查网站的具体代码,站点配置文件,以及服务器相关组件设置

    0 0
添加回答
+关注
0
文章
3
问答
问答排行榜
最热
最新
相关电子书
更多
OceanBase 入门到实战教程
立即下载
阿里云图数据库GDB,加速开启“图智”未来.ppt
立即下载
实时数仓Hologres技术实战一本通2.0版(下)
立即下载