名词解释
Spider
Spider、蜘蛛、爬虫均为一个意思，一般是人为设计好的，用来收集信息。
User-Agent
User-Agent简称UA，一般代表了用户使用的设备、系统、浏览器、环境等信息，当然Spider也有专门的UA。
使用场景
安全专业人士
一般安全专业人士会巧用UA来绕过防火墙、安全设备的UA检测
构造特定的UA来访问一些其他UA无法访问的页面。
构造UA通过僵尸网络完成DDOS攻击，对服务器进行压力测试或者评估。
程序开发者
当然，程序猿也需要使用到UA，比方说通过判断UA来设计兼容不同设备访问的界面。再比方说，在设计爬虫脚本的时候也需要不断变化UA防止被网站检测到恶意行为。
百度Spider
百度最新UAPC
Mozilla/5.0 (compatible; Baiduspider-render/2.0; +http://www.baidu.com/search/spider.html)
HTML
复制
移动
Mozilla/5.0 (iPhone; CPU iPhone OS 9_1 like Mac OS X) AppleWebKit/601.1.46 (KHTML, like Gecko) Version/9.0 Mobile/13B143 Safari/601.1 (compatible; Baiduspider-render/2.0; +http://www.baidu.com/search/spider.html)
HTML
复制
百度使用最多UA
“Mozilla/5.0 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)”
HTML
复制
百度图片
“Baiduspider-image+(+http://www.baidu.com/search/spider.htm)”
HTML
复制
360Spider UA
360搜索
Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1; Trident/5.0);
HTML
复制
360网站安全检测
360spider (http://webscan.360.cn)
HTML
复制
Google Spider UA
“Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)”
HTML
复制
Google图片搜索
“Googlebot-Image/1.0”
HTML
复制
Adwords移动网络
“AdsBot-Google-Mobile (+http://www.google.com/mobile/adsbot.html) Mozilla (iPhone; U; CPU iPhone OS 3 0 like Mac OS X) AppleWebKit (KHTML, like Gecko) Mobile Safari”
HTML
复制
微软 Spider UA
必应
“Mozilla/5.0 (compatible; bingbot/2.0; +http://www.bing.com/bingbot.htm)”
HTML
复制
腾讯搜搜Spider UA
搜搜
“Sosospider+(+http://help.soso.com/webspider.htm)”
HTML
复制
搜搜图片
“Sosoimagespider+(+http://help.soso.com/soso-image-spider.htm)”
HTML
复制
雅虎 Spider UA
雅虎英文
“Mozilla/5.0 (compatible; Yahoo! Slurp; http://help.yahoo.com/help/us/ysearch/slurp)”
HTML
复制
雅虎中国
“Mozilla/5.0 (compatible; Yahoo! Slurp China; http://misc.yahoo.com.cn/help.html)” Sogou Spider UA
HTML
复制
搜狗图片
“http://pic.sogou.com” “Sogou Pic Spider/3.0(+http://www.sogou.com/docs/help/webmasters.htm#07)”
HTML
复制
搜狗
“Sogou web spider/4.0(+http://www.sogou.com/docs/help/webmasters.htm#07)”
HTML
复制
网易有道 UA
“Mozilla/5.0 (compatible; YoudaoBot/1.0; http://www.youdao.com/help/webmaster/spider/; )”
HTML
复制
比较小众的一些Spider UA
宜搜 EasouSpider
Mozilla/5.0 (compatible; EasouSpider; +http://www.easou.com/search/spider.html)
HTML
复制
华为赛门铁克蜘蛛
“HuaweiSymantecSpider/1.0+DSE-support@huaweisymantec.com+(compatible; MSIE 7.0; Windows NT 5.1; Trident/4.0; .NET CLR 2.0.50727; .NET CLR 3.0.4506.2152; .NET CLR ; http://www.huaweisymantec.com/cn/IRL/spider)”
HTML
复制
七牛镜像蜘蛛
qiniu-imgstg-spider-1.0
HTML
复制
监控宝
“Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; JianKongBao Monitor 1.1)”
HTML
复制
DNSPod监控
DNSPod-Monitor/2.0
HTML
复制
国外一些Spider的UA
瑞典 Speedy Spider
“Mozilla/5.0 (Windows; U; Windows NT 5.1; en-US) Speedy Spider (http://www.entireweb.com/about/search_tech/speedy_spider/)”
HTML
复制
俄罗斯 yandex
“Mozilla/5.0 (compatible; YandexBot/3.0; +http://yandex.com/bots)”
HTML
复制
俄罗斯 LinkpadBot
Mozilla/5.0 (compatible; LinkpadBot/1.06; +http://www.linkpad.ru)
英国 MJ12bot
“Mozilla/5.0 (compatible; MJ12bot/v1.4.0; http://www
