开发者社区> 问答> 正文

CDN怎么加robots.txt,会不会重复收录?

用了CDN后,cdn镜像完全复制了一个站 。cdn.baidu.com显示的和原站www.baidu.com一样, 如果不在cdn.baidu.com上加入robots.txt,那不是搜索引擎把 这个域名也收录了?,七牛和又拍,cdn都是可以另外加入robots.txt屏蔽掉cdn.baidu.com下所有内容。
       而且有些网站用了后,cdn.baidu.com排名比www.baidu.com的排名更靠前

展开
收起
丨江南 2015-10-17 12:14:22 8516 0
2 条回答
写回答
取消 提交回答
  • …。。
    可以在DNS解析平台里做些设置

    例如加速的域名是 a.abc.abc
    主机记录:a   线路类型:默认   记录值:正常的CDN地址
    主机记录:a   线路类型:搜索引擎  记录值:8.8.8.8(错误的地址,这样搜索引擎就因为DNS地址错误,无法访问站点,也就无法收录网站了)

    错误的地址建议不要乱写,可能误打误着出问题了。可以填8.8.8.8这种公共DNS地址。
    2017-07-26 15:52:11
    赞同 展开评论 打赏
  • 这个版块关注度明显不够啊,楼主都是去年的问题了
    我最近开始使用阿里云CDN过程中发现跟楼主同样的问题
    发现阿里云的cdn会请求robots.txt,但是请求的跟源站一样的robots文件,貌似限制不了cdn镜像站的访问收录
    2017-01-13 11:00:37
    赞同 展开评论 打赏
问答分类:
问答标签:
问答地址:
问答排行榜
最热
最新

相关电子书

更多
构建智能化的视频系统 阿里云CDN的进化 立即下载
CDN数据化实践 立即下载
直播CDN-X - 白山直播CDN流传递链路优化 立即下载