【发布时间】:2015-09-10 03:05:45
【问题描述】:
我正在尝试从索引中排除某些页面。我有搜索表单,您可以在其中使用一些预定义的参数或用户键入的查询。我需要屏蔽包含用户提供的查询的搜索结果。
示例网址:
-
example.com?adv=0&query=&r=0&woj=0&msc=&osk=&osb=&osn=# 索引它! -
example.com?adv=0&query=&r=0&woj=0&msc=&osk=&osb=&osn=# 也索引它! -
example.com?adv=0&query=**USER_QUERY**&r=0&woj=0&msc=&osk=&osb=&osn=# 不要索引!
robots.txt:
User-Agent: *
Disallow: /example.com?adv=0&query=*&r=0&woj=0&msc=&osk=&osb=&osn=
星号会按我的预期工作吗?谷歌会知道星号只能与&query 参数链接,如果这个参数是空的 URL 应该被索引吗?
【问题讨论】:
-
请注意,
User-agent和Disallow之间不应有空行。 -
注意
Disallow中的URL路径不能以主机(domain.com)开头。 -
是的,这只是一个例子......
标签: robots.txt googlebot