【问题标题】:How to prevent google from indexing <script type="application/json"> content如何防止谷歌索引 <script type="application/json"> 内容
【发布时间】:2018-04-22 23:07:27
【问题描述】:

我通过 Google 的网站管理员工具发现,google 正在抓取的路径看起来像是在 &lt;script type="application/json"&gt; 标记中嵌入在 json 中的链接。此 json 稍后会在客户端进行解析和使用。

问题在于 json 包含无效链接的路径,Google 将它们视为链接,因此它正在尝试抓取它们并获得稳步增加的 404 数量,从而增加了不必要的爬虫流量。

我能做些什么来阻止谷歌尝试抓取这些路径?我可以在 robots.txt 中添加一些模式,但我想确保 google 完全忽略 script 标签的内容,而不是尝试解析看起来像链接的路径。

【问题讨论】:

  • 您是否编辑/创建了robots.txt 文件来告诉机器人忽略这些路径?
  • 它们在您的robots.txt 文件中吗?
  • @PatrickEvans 和 zero298,见我的第三段。

标签: javascript json web-crawler


【解决方案1】:

试试这个标记:

<!--googleoff: all-->
<script type="application/json">
  // your json content here
</script>
<!--googleon: all>

如this 帖子中所写。

另外还有几篇文章:
Preparing for a Crawl
FAQ - How do i use the googleon/googleoff Tags?

PS:

为了更安全的方式:如果可能,
尝试使用内容,生成“即时”,例如 ajax 加载。

【讨论】:

  • 谢谢!我刚刚遇到了同样的事情,我会尝试的。
  • 似乎只有作为私人搜索产品的 Google Search Appliance 才支持此功能。请参阅此答案:stackoverflow.com/a/19489890/610585。我仍然会尝试看看它是否能正常工作,因为该答案中链接的文档没有明确声明它不适用于正常的 Google 搜索,但我没有期待它的工作。我会报告我的发现。
  • 谢谢,@undefined!这是一个非常有趣的实验。如果可能的话,我建议你用 ajax 附加脚本
  • json 包含在初始响应中作为性能优化,以避免在显示第一个内容之前必须等待 XHR 请求。
  • @undefined,有同样的问题。你解决过这个问题吗?
猜你喜欢
  • 1970-01-01
  • 2016-06-28
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2015-09-30
相关资源
最近更新 更多