无法使用 Selenium 和 BeautifulSoup 抓取文本答案

【问题标题】：Unable to scrape text using Selenium and BeautifulSoup无法使用 Selenium 和 BeautifulSoup 抓取文本
【发布时间】：2021-10-24 15:42:13
【问题描述】：

我正在尝试使用 Python 中的 Selenium 和 BeautifulSoup 从 Morningstar 自动获取研究项目的数据。我是 Python 的新手，所以我刚刚尝试了 Stackoverflow 和类似论坛的一堆解决方案，但都没有成功。

我要抓取的内容是网址 https://www.morningstar.dk/dk/funds/snapshot/snapshot.aspx?id=F000014CU8&tab=3 在 url 中，我专门寻找“Faktorprofil”，您可以单击它以将数据显示为表格。我可以从 url 获取标题，但我无法 soup.find 任何其他文本。我尝试过使用多个 id 和类，但没有任何运气。我认为我最成功的代码写在下面。希望有人能帮忙！

from bs4 import BeautifulSoup
import os
from selenium import webdriver
from selenium.webdriver.chrome.options import Options

opts = Options()
opts.add_argument(" --headless")



chrome_driver = os.getcwd() +"/chromedriver"


driver = webdriver.Chrome(options=opts, executable_path=chrome_driver)


driver.get("https://www.morningstar.dk/dk/funds/snapshot/snapshot.aspx?id=F00000ZG2E&tab=3")


soup_file=driver.page_source
soup = BeautifulSoup(soup_file, 'html.parser')

print(soup.title.get_text())

#print(soup.find(class_='').get_text())
#print(soup.find(id='').get_text())

这是我要抓取的数据 [1]：https://i.stack.imgur.com/wkSMj.png

【问题讨论】：

我可以在 Selenium 中做到这一点，如果您准备好接受 Selenium 中的解决方案，请告诉我
您好，感谢您的回答。我对 Selenium 中的解决方案非常感兴趣

标签： python selenium web-scraping beautifulsoup morningstar

【解决方案1】：

所有这些表都在iframe 中。下面的代码将检索数据并打印为列表。

driver.implicitly_wait(10)
driver.get("https://www.morningstar.dk/dk/funds/snapshot/snapshot.aspx?id=F000014CU8&tab=3")
driver.switch_to.frame(1)
driver.find_element_by_xpath("//button[contains(@class,'show-table')]//span").click()
table = driver.find_elements_by_xpath("//div[contains(@class,'sal-mip-factor-profile__value-table')]/table//tr/th")
header = []
for tab in table:
    header.append(tab.text)
print(header)
tablebody = driver.find_elements_by_xpath("//div[contains(@class,'sal-mip-factor-profile__value-table')]/table//tbody/tr")
for tab in tablebody:
    data = []
    content = tab.find_elements_by_tag_name("td")
    for con in content:
        data.append(con.text)
    print(data)

输出：

['Faktorer', 'Fonds værdi', '5 år Min. Værdi', '5 år Maks værdi', 'Kategori Gennemsnitlig']
['Stil', '62,33', '31,52', '76,36', '48,20']
['Effektiv rente', '48,83', '20,82', '69,12', '34,74']
['Momentum', '58,47', '7,48', '77,21', '71,15']
['Kvalitet', '25,65', '21,61', '59,66', '38,15']
['Volatilitet', '45,25', '34,66', '81,08', '74,93']
['Likviditet', '35,70', '33,40', '74,94', '79,39']
['Størrelse', '39,60', '35,67', '48,78', '87,59']

【讨论】：