开发者社区> 问答> 正文

求Robots文件禁止抓取域名的写法

比如:www.xx.com为主域名。
我想禁止收录m.xx.com的手机域名,
用robots文件怎么设置禁止抓取

展开
收起
手拍客 2015-12-31 19:39:42 6951 0
3 条回答
写回答
取消 提交回答
  • 回 2楼(孤城) 的帖子
    是这样?Disallow: m.xx.com

    -------------------------

    回 4楼(mytsing520) 的帖子
    可以是模板目录?
    2016-01-01 00:23:47
    赞同 展开评论 打赏
  • 楼上回答了
    2015-12-31 23:21:27
    赞同 展开评论 打赏
  • 在m.xx.com根目录下写robots.txt
    内容如下:
    User-agent: *
    Disallow:

    这样即可

    -------------------------

    回 3楼(手拍客) 的帖子
    Disallow后面为空

    -------------------------

    回 5楼(手拍客) 的帖子
    Disallow后面不加东西的话就是全目录
    如果要指定哪个目录的话就写哪个目录
    2015-12-31 20:51:39
    赞同 展开评论 打赏
问答分类:
问答地址:
问答排行榜
最热
最新

相关电子书

更多
域名大数据的应用 立即下载
“域”见更美好的未来——域名筑梦互联网+ 立即下载
“域”感——《域名投资从入门到精通》 立即下载