【问题标题】:What does "Allow: /$" mean in robots.txtrobots.txt 中的“允许:/$”是什么意思
【发布时间】:2016-01-19 14:37:23
【问题描述】:

在挖掘Google robots.txt 文件时,我注意到了我不熟悉的一行。

以下代码在 robots.txt 文件的上下文中是什么意思?

Allow: /$

'$' 是否改变了简单说的意思

Allow: /

【问题讨论】:

    标签: web-crawler robots.txt


    【解决方案1】:

    根据SearchEngineLand..

    您可以使用美元符号 ($) 匹配字符串的结尾。例如,要阻止以 .asp 结尾的 URL:

    用户代理:Googlebot
    禁止:/*.asp$

    看起来有点像正则表达式。

    【讨论】:

      【解决方案2】:

      一些机器人理解模式匹配。 $ 在正则表达式中用于标记行尾。所以这条规则应该允许/,但不允许/foo

      我没有特别是 robots.txt 的来源。

      【讨论】:

        猜你喜欢
        • 2011-11-01
        • 1970-01-01
        • 1970-01-01
        • 1970-01-01
        • 2017-02-12
        • 1970-01-01
        • 2017-04-03
        • 1970-01-01
        • 1970-01-01
        相关资源
        最近更新 更多