【问题标题】:In robots.txt, what will Disallow: /?s block?在 robots.txt 中,Disallow: /?s 会阻止什么?
【发布时间】:2010-09-06 03:13:47
【问题描述】:

当搜索引擎爬取网站时,这行会屏蔽什么?

不允许:/?s

【问题讨论】:

    标签: search-engine web-crawler robots.txt


    【解决方案1】:

    它将阻止机器人抓取它们偶然发现的在其查询字符串中包含 s 的任何 URL(在根 (?) 中)。

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 2017-06-13
      • 1970-01-01
      • 1970-01-01
      • 2011-06-13
      • 2022-07-06
      • 1970-01-01
      • 2012-01-16
      • 1970-01-01
      相关资源
      最近更新 更多