【问题标题】:Using pattern to block some of dynamic URLs in robots.txt使用模式阻止 robots.txt 中的一些动态 URL
【发布时间】:2015-09-10 03:05:45
【问题描述】:

我正在尝试从索引中排除某些页面。我有搜索表单,您可以在其中使用一些预定义的参数或用户键入的查询。我需要屏蔽包含用户提供的查询的搜索结果。

示例网址:

  • example.com?adv=0&query=&r=0&woj=0&msc=&osk=&osb=&osn= # 索引它!
  • example.com?adv=0&query=&r=0&woj=0&msc=&osk=&osb=&osn= # 也索引它!
  • example.com?adv=0&query=**USER_QUERY**&r=0&woj=0&msc=&osk=&osb=&osn= # 不要索引!

robots.txt:

User-Agent: *

Disallow: /example.com?adv=0&query=*&r=0&woj=0&msc=&osk=&osb=&osn=

星号会按我的预期工作吗?谷歌会知道星号只能与&query 参数链接,如果这个参数是空的 URL 应该被索引吗?

【问题讨论】:

  • 请注意,User-agentDisallow 之间不应有空行。
  • 注意Disallow中的URL路径不能以主机(domain.com)开头。
  • 是的,这只是一个例子......

标签: robots.txt googlebot


【解决方案1】:

Bing 和 Google 允许使用通配符? *(来自https://youtu.be/G29Zt-UH_Ko

【讨论】:

    猜你喜欢
    • 2019-05-13
    • 2022-06-11
    • 1970-01-01
    • 2016-02-03
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2018-05-05
    • 2013-08-25
    相关资源
    最近更新 更多