【问题标题】:Is the following syntax in my robots.txt file, blocking all crawlers from indexing my site?我的 robots.txt 文件中的以下语法是否会阻止所有爬虫将我的网站编入索引?
【发布时间】:2021-01-01 10:03:36
【问题描述】:

目前在我的 robots.txt 文件中:

User-agent: * # 禁止其他人 不允许:/

问题-对我来说,这里的新手,看起来“禁止:/”会阻止 Google/MSN/etc 将我的网站编入索引。对吗?

【问题讨论】:

    标签: web-crawler


    【解决方案1】:

    robots.txt 文件的正确语法似乎如下:

    用户代理:* 不允许:/

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 1970-01-01
      • 2010-09-10
      • 1970-01-01
      • 1970-01-01
      • 2012-01-13
      • 2021-07-28
      • 1970-01-01
      • 2010-10-18
      相关资源
      最近更新 更多