【问题标题】:YQL "Redirected to a robots.txt restricted URL" Error for Google DomainGoogle 域的 YQL“重定向到 robots.txt 受限 URL”错误
【发布时间】:2012-03-01 07:30:24
【问题描述】:

我正在使用 YQL 控制台,我想从这个 link in Google Shopping 返回结果

在 YQL 中使用以下内容:

  select content from html where url="www.google.com/products/seller?hl=en&q=burkett+restaurant+equipment+reviews&tbo=u&tbm=shop&zmi=basequipment.com&cmi=12986189937115136" and xpath="//body"

这是说:

重定向到 robots.txt 受限网址

并且不会显示任何结果,有什么办法可以解决这个问题?

【问题讨论】:

  • 谷歌ask bots not to touch that data 和雅虎!尊重他们的要求。所以不应该有解决这个问题的技术方法。我希望他们的条款和条件也禁止您以这种方式访问​​数据,因此您的法律依据也很不稳定。

标签: html select yql robots.txt http-status-code-403


【解决方案1】:
猜你喜欢
  • 1970-01-01
  • 1970-01-01
  • 2014-09-27
  • 2018-05-05
  • 1970-01-01
  • 1970-01-01
  • 2014-09-29
  • 1970-01-01
  • 1970-01-01
相关资源
最近更新 更多