开发者社区> 问答> 正文

https://www.aliyuna.com 蜘蛛爬行robots.txt

请教下,网站,如果只要让所有蜘蛛只爬行

https://www.aliyuna.com/*.html

https://www.aliyuna.com/index.php
这样的页面,在robots.txt 这样写法是对吗,还是要怎么写法,谢谢。

User-agent:
Allow: /index.php
Allow: /
.html
Disallow: /

展开
收起
人民井茶 2024-02-20 15:01:54 65 0
0 条回答
写回答
取消 提交回答
问答地址:
问答排行榜
最热
最新

相关电子书

更多
CDN助力企业网站进入HTTPS时代 立即下载
低代码开发师(初级)实战教程 立即下载
阿里巴巴DevOps 最佳实践手册 立即下载