站长们都会,但是都会写错的robots!

简介: 午休前分享一下robots吧! 相信很多站长对robots都不会陌生了吧?! 但是还是有些人会写错!这真是丢尽了站长的脸了,还是会写错的,留个言,我们会对你进行“判死 缓”的,哈哈!~

午休前分享一下robots吧!
相信很多站长对robots都不会陌生了吧?!
但是还是有些人会写错!这真是丢尽了站长的脸了,还是会写错的,留个言,我们会对你进行“判死 缓”的,哈哈!~
不管怎么说,有时候错误往往都会出现在积极两个字上面,站长何必自己去一字一字的写robots呢?!这多浪费时间呀!直接copy别人网站上面不就完了么,对不?简单省事。。。有时候积极也未必是好事,万一写错了就闹笑话了。。。
好吧!你说我就是要自己写,不想看别人的,这是认真负责,就像小学生考试的时候,老师说了,考试不要作弊,不要互相抄袭。。。Duang!~脑袋炸了,所以当答案就在面前的时候,尽然失去了抄的能力!杯具呀。
好了,不调侃了,认真写好robots。
首先robots必须声明针对的蜘蛛
"User-Agent:"
这一行就是针对这一声明的,
"User-agent: Baiduspider"
很明显这就是针对百度蜘蛛的声明了

第二个要了解的就是“允许”和“不允许”
代码是“Allow:”和“Disallow:”,后面加上你想要“允许”和“不允许”抓取的栏目或者网址
这里在介绍一个通配符“*”,怎么用呢!看看
Disallow: /*.css
Disallow: /*.js
Disallow: /*.aspx
这里就是禁止抓取所有的css样式和js样式,还有我们的动态页

第三个你可以在最后加上自己的sitemap地址,还是比较有用的,本人测试过。

第四点呐最重要的一点,就是空格!空格!!空格!!!
很多人在自己写robots的时候都会忘记的就空格了
User-Agent:(英文空格)*
Disallow:(英文空格)/*.css

目录
相关文章
|
存储 安全 前端开发
SEO那些事:一句代码一键分享网站
SEO那些事:一句代码一键分享网站
80 0
|
安全 Linux Apache
【建站系列教程】6、.htaccess文件的url重写规则-网页伪静态化
【建站系列教程】6、.htaccess文件的url重写规则-网页伪静态化
181 1
|
搜索推荐 机器人 定位技术
怎样写Robots文件?
在SEO优化网站结构时,控制网页抓取、索引是常用的技术。常用工具包括: 机器人文件。
174 0
怎样写Robots文件?
|
算法 SEO
网站收录原因与解决方法
实际上,Robots文件是一份互联网行业公约,该文件可以告诉蜘蛛哪些网页可以抓到,哪些不能抓到,哪些不能抓到,当然还可以对特定的搜素引擎进行限制,比如可以只让百度的蜘蛛抓到,而禁止360和搜狗的蜘蛛抓到。可检查是否存在下robots文件。
121 0
网站收录原因与解决方法
|
Web App开发 搜索推荐 PHP
免费搜索引擎提交网址大全
首先我们建站网站之后就是让搜索引擎知道我们的网站,最直接的办法就是去搜索引擎入口去提交网址,本文整理出多个入口提供给大家: 1. 中文网站提交网址大全 360搜索引擎登录入口:http://info.
2854 0
|
前端开发 搜索推荐 PHP
robots是什么?robots.txt怎么写?效果才好呢
一、啥是robots.txt? robots是网页和应用软件备忘录的纯文本公文,当两个应用软件青蛙来到访停靠站的时侯,首先两栖类复查根产品目录是否普遍存在这个公文。除非普遍存在假如,那么就会根据公文的以下内容来确定到访范围,除非没更有甚者话青蛙就会沿镜像进行截取,robots置于项目的根产品目录下。 robots是啥?robots.txt怎么写? BLOG瞳子 BLOG.tongziol.net
210 0
robots是什么?robots.txt怎么写?效果才好呢
|
数据采集 搜索推荐 机器人
|
域名解析 搜索推荐 SEO
一个网站有多个域名,怎么处理对SEO比较友好?
哪些情况下,会出现一个网站多个域名? 1、购买了核心域名(如:fgba.net),同时把小众后缀域名一起买了(如:fgba.cn),网站建立后,希望把小众后缀的域名一起解析到网站上。 2、发现正使用的域名A存在问题,比如一直不收录、不合适、不喜欢,换了新域名B后,仍希望把域名A解析到网站上。 3、域名所有权问题或者业务缘故,导致必须给网站启用新域名,希望老域名被转走之前还可以解析一段时间,传递权重给新域名。
442 0
|
UED SEO 搜索推荐
|
SEO
高质量SEO文章怎么写?
SEO博客文章的10个技巧 撰写博客文章并使用相关的实用内容使您的网站保持最新是一个很好的策略,可以让访问者回来更多。如果没有过于技术化,这里有十种快速简便的方法可以帮助您的博客在搜索引擎中排名很好并覆盖更广泛的受众。
1048 0