【问题标题】:Html code in inspect element differs from html source code检查元素中的 Html 代码与 html 源代码不同
【发布时间】:2015-09-14 15:30:01
【问题描述】:

我正在尝试抓取一个网站(使用 python)并获取其用户信息。但是当我下载页面的源代码时,它与我在 chrome 中的检查元素中看到的不同。我用谷歌搜索,似乎我应该使用 selenium,但我不知道如何使用它。这是我拥有的代码,当我看到 driver.page_source 时,它仍然是 chrome 中的源页面,并且看起来不像检查元素中的源。 如果有人能帮我解决这个问题,我真的很感激。

import os
from selenium import webdriver

chromedriver = "/Users/adam/Downloads/chromedriver"
os.environ["webdriver.chrome.driver"] = chromedriver
driver = webdriver.Chrome(chromedriver)
driver.get("http://www.tudiabetes.org/forum/users/Bug74/activity")
driver.quit()

【问题讨论】:

    标签: python html web-scraping web-crawler


    【解决方案1】:

    它叫XHR
    您的页面是从另一个调用加载的(您的 url 仅加载页面的结构,页面的内容来自使用 XHR、json 格式字符串的不同来源)而不是页面加载本身。

    您真的应该考虑使用requestsbs4 来查询this page

    【讨论】:

    • 感谢您的回复。但是检查元素代码仍然不相似。我正在尝试查找用户加入的日期。但我不能。
    • @Erin 日期在页面的JavaScript 部分created_at":"2009-07-15T23 我建议你研究requestsbs4
    • 谢谢@taesu。这解决了查看加入日期的问题。我希望得到类似于检查元素中的 html 代码的东西。
    猜你喜欢
    • 2023-03-03
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2016-09-09
    • 1970-01-01
    • 2014-06-14
    相关资源
    最近更新 更多