【发布时间】:2021-01-01 10:03:36
【问题描述】:
目前在我的 robots.txt 文件中:
User-agent: * # 禁止其他人 不允许:/
问题-对我来说,这里的新手,看起来“禁止:/”会阻止 Google/MSN/etc 将我的网站编入索引。对吗?
【问题讨论】:
标签: web-crawler
目前在我的 robots.txt 文件中:
User-agent: * # 禁止其他人 不允许:/
问题-对我来说,这里的新手,看起来“禁止:/”会阻止 Google/MSN/etc 将我的网站编入索引。对吗?
【问题讨论】:
标签: web-crawler
robots.txt 文件的正确语法似乎如下:
用户代理:* 不允许:/
【讨论】: