【问题标题】:Access Denied 403 when webscraping; What to do?网页抓取时访问被拒绝 403;该怎么办?
【发布时间】:2021-07-08 07:30:37
【问题描述】:

我正在测试我构建的抓取算法。我向https://www2.hm.com/fi_fi/miesten.html 提出了请求,但错误地指定了用户代理信息。似乎这触发了立即禁止(不确定)抓取他们的网站应该没问题 - 他们的 robots.txt 说:用户代理:* 不允许:)

Example of making a request to HM and the subsequent server response

出于隐私考虑,我删除了用户代理和代理信息。但是,它们并没有什么特别之处。

我收到以下回复:

"b'\n访问被拒绝\n\n

\n \n您无权访问此服务器上的“http://www2.hm.com/fi_fi/miesten.html”。

\n参考 #18.2796ef50.1625728417。 f9aab80\n\n\n'"

所以我的问题是:我可以做些什么来解除这个禁令?我可以从他们的一端连接某人并要求解除它吗?如果是这样,通常在哪里可以找到这些信息。 虽然这个问题特别涉及这个网站,但这是一个更广泛的问题。在被封禁的情况下,用户是否可以尝试从服务器连接某人?我考虑过联系客户支持,但我严重怀疑他们无法帮助解决这个问题,甚至不了解它的含义。

我已经用谷歌搜索了这个问题,但没有找到任何帮助。他们通常建议清除缓存、内存等。这不是这里的问题。我可以通过Chrome或其他浏览器访问该站点,但是通过python使用请求时,出现了这个问题。

【问题讨论】:

    标签: python web-scraping server http-headers http-status-code-403


    【解决方案1】:

    很确定你需要使用 Javascript 抓取机器人,你可以试试这个工具:https://docs.python-requests.org/projects/requests-html/en/latest/

    要获取网站所有者的联系信息,您可以使用 unix whois 命令:

    whois hm.com

    【讨论】:

    • 情况并非如此,因为在此实施中,刮板可以正常工作几周。
    • 尝试清除 cookie 并更改您的 IP 地址
    • 查看域 (whois hm.com) 的技术/联系电子邮件,请不要对试图帮助您的人无礼!对您的要求保持礼貌,也许他们会回应...
    • 谢谢。对不起,我不是故意粗鲁(现在回读,我的回复似乎充满敌意)
    猜你喜欢
    • 2021-07-30
    • 1970-01-01
    • 2015-09-07
    • 1970-01-01
    • 2013-08-19
    • 1970-01-01
    • 2011-10-04
    • 2017-03-23
    • 1970-01-01
    相关资源
    最近更新 更多