【发布时间】:2016-01-19 14:37:23
【问题描述】:
在挖掘Google robots.txt 文件时,我注意到了我不熟悉的一行。
以下代码在 robots.txt 文件的上下文中是什么意思?
Allow: /$
'$' 是否改变了简单说的意思
Allow: /
【问题讨论】:
在挖掘Google robots.txt 文件时,我注意到了我不熟悉的一行。
以下代码在 robots.txt 文件的上下文中是什么意思?
Allow: /$
'$' 是否改变了简单说的意思
Allow: /
【问题讨论】:
根据SearchEngineLand..
您可以使用美元符号 ($) 匹配字符串的结尾。例如,要阻止以 .asp 结尾的 URL:
用户代理:Googlebot
禁止:/*.asp$
看起来有点像正则表达式。
【讨论】:
一些机器人理解模式匹配。 $ 在正则表达式中用于标记行尾。所以这条规则应该允许/,但不允许/foo。
我没有特别是 robots.txt 的来源。
【讨论】: