【发布时间】:2015-09-10 12:42:40
【问题描述】:
我们有一个包含超过 1000 张图片的页面,我们在每个页面上仅显示 10 张,我们使用 ajax 加载它们,当人们“看到图片”时,也使用数据表。 一切正常,但是在谷歌网站管理员工具中,我收到了数千个 404 错误,页面如下: http://example.com/ajax/%5C%22http:%5C/%5C/example.com%5C/image%5C/1937%5C/image-name%5C%22 当然,如果我转到此页面,我会收到 404 错误,因为不存在这样的页面,但我不明白为什么 Google 会获取这样的 URL。 卡片网址如下所示:example.com/image/a 4 digit number here/image-name
当它被加载 ajax 时,它会创建那种你(作为访问者)永远看不到的 url,但 Google 会以某种方式获取它。
现在我将 /ajax 添加到 robots.txt 以禁止获取它,但我不确定这是否是最好的主意。
任何帮助将不胜感激。
【问题讨论】:
标签: ajax web-crawler http-status-code-404 googlebot