【问题标题】:urllib3 return 404 not found for existing websiteurllib3 返回 404 未找到现有网站
【发布时间】:2017-05-23 20:12:17
【问题描述】:

Different result by urllib and urllib3

我可以通过将地址复制到我的 chrome 中来打开网页,urllib 也会返回页面源代码。我只是不明白为什么urllib3 在其他一切正常的情况下返回 404 not found 在此网页上。

以下是原代码:

url = 'http://www.webmd.com/drugs/2/condition-12862/depression%20associated%20with%20bipolar%20disorder'
import urllib3
http = urllib3.PoolManager()
r = http.request('GET',url)
r.data

import urllib.request
req = urllib.request.Request(url=url)
with urllib.request.urlopen(req) as f:
    print(f.read().decode('utf-8'))

【问题讨论】:

    标签: python-3.x web-scraping urllib urllib3


    【解决方案1】:

    我猜,你是在代理后面调用,urllib 使用系统代理(如果你在 linux - http_proxy 环境变量上),对于 urllib3 你需要使用 urllib3 库指定它

    【讨论】:

      猜你喜欢
      • 2018-12-16
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2016-08-28
      • 2021-10-30
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多