【问题标题】:Web scraping: update data like in Chrome?网页抓取:像 Chrome 一样更新数据?
【发布时间】:2020-06-01 02:34:42
【问题描述】:

我遇到的所有关于 Python 网页抓取的文章都引用了 BeautifulSoup 和 Selenium 作为从网页中检索 HTML 和 JavaScript 内容的主要工具。

但是,我还没有找到一种方法来自动更新从同一网页接收到的数据,而无需向其发送新请求。

在 Python 中是否不可能像使用 Google Chrome 一样,即简单地打开一个网页并查看它由主机本身自动更新?

【问题讨论】:

    标签: javascript python selenium beautifulsoup screen-scraping


    【解决方案1】:

    是的,这是可能的。例如,如果内容是使用 JavaScript 动态修改的,您可以循环下载 DOM 树的元素。您还可以调用自己的 JavaScript 来执行特定操作。或者,您甚至可以编写和上传您自己的浏览器插件。总的来说,在 selenium 中你可以很大程度上控制浏览器,就像普通用户一样,不需要再次刷新页面。

    【讨论】:

    • 感谢您的快速而翔实的评论!我是否应该从中理解该解决方案意味着在 JavaScript 中编码,或者有没有办法在 Python 中使用 selenium 做同样的事情?无论如何,您是否对我应该关注的概念有一些想法,以找到有关如何执行该项目的具体解释?亲切的问候。
    • 最简单的方法是使用循环观察元素并对变化做出反应。所以只需获取循环元素的当前状态,看看会发生什么。
    • 我会试一试的。非常感谢您的友好和有用的答案;-)
    • 如果这个回答对你有帮助,请采纳。谢谢,祝硒好运!
    猜你喜欢
    • 2018-05-11
    • 2019-07-15
    • 1970-01-01
    • 2020-03-19
    • 1970-01-01
    • 2021-10-15
    • 2021-12-28
    • 2015-07-17
    • 2021-08-29
    相关资源
    最近更新 更多