【发布时间】:2021-03-12 14:43:14
【问题描述】:
我的问题
所以最近我的robots.txt 文件犯了一个很大的错误。我在一行中添加了防止读取数据文件的目的,目的是防止博客数据.txt 文件被抓取:
Disallow: *.txt$
回想起来,我应该先包含一个目录:
Disallow: /blog/posts/*.txt$
但是,由于我没有这样做,Google 现在无法抓取我的 robots.txt 文件。
我现在已经修复了文件,但我无法让 Google Search Console 重新索引文件,因为它仍然认为不允许这样做。
我的尝试
- 我尝试在 GSC 中提取
/robots.txt文件并手动重新索引但没有骰子。它给我的唯一信息是“robots.txt 不允许” - 我尝试从站点中删除
robots.txt文件,在 GSC 中手动重新索引,希望它会意识到它已经消失并重置或其他什么。尽管如此,仍然没有,仍然说该操作“robots.txt 不允许” - 我也尝试过使用 robots.txt 测试工具,但它只适用于 URL-Prefix Properties,这是一个 域属性 它不会出现在要测试的可用站点列表中。如果有人知道我可以使用此工具的方法(或暂时将我的属性转换为 URL 前缀属性),这仍然是一个解决方案。
我的目标
我真的很想在 GSC 的索引中重置我的 robots.txt 文件。任何和所有建议将不胜感激。
希望我足够清楚地描述了这个问题。如果您需要更多信息或上下文,请告诉我,我将非常乐意更新帖子。
谢谢!
【问题讨论】:
标签: google-search robots.txt google-search-console