【问题标题】:Webscraping For Wordpress websites用于 Wordpress 网站的网页抓取
【发布时间】:2020-02-12 21:48:38
【问题描述】:

我正在为我的组织抓取网站,在 python 中使用漂亮的汤库。使用请求模块。到目前为止,我已经抓取了很多 Wordpress 网站,但是对于具有 .co 和 .ca 域的网站,我遇到了一个错误(对于其他网站,我得到了网站的完整响应(response = self.html_getter.send_request_get_response(URL)

但是对于这个 .co/.ca 网站,我的代码没有得到任何响应,谁能给我解决方案?提前致谢 这是我的网站 试图抓取“SEASONSANDSUPPERS.CA”

我收到错误HTTP Error 404: Not Found

【问题讨论】:

  • 错误 404 通常会告诉您,您要查找的任何页面都没有按要求出现,即错误的 URL(可能是错字?)。如果您手动将.get URL 复制到浏览器中,您会看到什么?
  • 网站正在打开。这是我要抓取的网站“SEASONSANDSUPPERS.CA”
  • 你能指导我完成这个吗?!
  • 请发布您为该调用运行的代码。
  • response = self.html_getter.send_request_get_response(url) 我使用此命令获取 html 响应(通过 SEASONSANDSUPPERS.CA 代替 url)

标签: python wordpress web-scraping python-requests response


【解决方案1】:

我猜你是否省略了“https://”部分? 因此,当您传递 url 时,请尝试将完整的 URL 设为https://seasonsandsuppers.ca

【讨论】:

  • 并非如此,这不是问题所在。还有一个网站,我无法获得它的 HTML 响应 sweetashoney.co。当我最初尝试访问它时,它要求我对该网站进行验证码。如果您能指导我完成此过程,那将是非常有帮助的。
猜你喜欢
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
相关资源
最近更新 更多