Python 美汤没有找到 span 元素

Question

我正在以下 Instagram 页面上测试 Instagram：https://www.instagram.com/acmilan/ 并尝试获取帖子元素（现在 = '4,552 个帖子'）。 如果我检查页面，HTML 看起来就像随附的屏幕截图。 我定位该元素的代码是：

driver = webdriver.Chrome
soup = BeautifulSoup(driver.page_source, 'html.parser')
elements = soup.find_all("ul", text=re.compile("posts"))
print(len(elements))

但这没有找到任何东西。 然后，我尝试了：

elements = soup.find_all("span", text=re.compile("posts"))
print(len(elements))

还是什么都没有。 然后，我尝试了：

elements = soup.find_all(True, text=re.compile('posts'))

再一次，什么都没有。

这似乎是一项很容易的任务，但不知何故我找不到解决方案。有什么建议？ 谢谢

Answer 1

这是我使用此代码解决问题的方法。请确保安装 re 模块。

from bs4 import BeautifulSoup
import requests
import re
headers = {'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_10_1) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/39.0.2171.95 Safari/537.36'}

url = 'https://www.instagram.com/acmilan/'
page = requests.get(url, headers=headers)
soup = BeautifulSoup(page.text, 'html.parser')
find = soup.findAll('meta')
meta = re.findall('g,.+\ Posts', str(find))[0]
print(meta.replace('g, ', '').replace('Posts', ''))

Output: 4,552 

Answer 2

要获得不需要BeautifulSoup 或selenium 的帖子计数，请使用regex 或更好地使用json

import requests
import re
import json

url = 'https://www.instagram.com/acmilan/'
page = requests.get(url)
postCount = re.search('timeline_media":{"count":(\d+)', page.text)
print('regex: ' + postCount.groups()[0])

# using json
jString = re.search('window._sharedData = (\{.+?\});</script>', page.text)
json_data = json.loads(jString.groups()[0])
postCount = json_data['entry_data']['ProfilePage'][0]['graphql']['user']['edge_owner_to_timeline_media']['count']
print('json: ' + str(postCount))

# to show all json object
# print(json_data)