【发布时间】:2010-07-24 06:30:24
【问题描述】:
我想禁止 SE 机器人访问我网站上的所有文件和文件夹,但其中的特殊文件夹和文件除外。 我可以在 robots.txt 文件中使用这些行吗?
User-agent: *
Disallow: /
Allow: /thatfolder
对吗?
【问题讨论】:
标签: web-crawler robots.txt search-engine-bots
我想禁止 SE 机器人访问我网站上的所有文件和文件夹,但其中的特殊文件夹和文件除外。 我可以在 robots.txt 文件中使用这些行吗?
User-agent: *
Disallow: /
Allow: /thatfolder
对吗?
【问题讨论】:
标签: web-crawler robots.txt search-engine-bots
User-agent:*
Allow: /thatfolder
Disallow: /
这应该可以。 (只是改变了顺序)
【讨论】: