【发布时间】:2018-07-26 13:24:44
【问题描述】:
我正在尝试使用 python 来抓取“每月利润”的 crytocompare 输出。该网站使用 javascript 来获取输出。
目前我有:
from selenium import webdriver
driver = webdriver.PhantomJS()
driver.get("https://www.cryptocompare.com/mining/calculator/xmr?HashingPower=65&HashingUnit=H%2Fs&PowerConsumption=0&CostPerkWh=0.12&MiningPoolFee=.5")
p_element = driver.find_element_by_id(id_='ng-binding')
print(p_element.text)
错误:
Warning (from warnings module):
File "C:\Python27\lib\site-packages\selenium\webdriver\phantomjs\webdriver.py", line 49
warnings.warn('Selenium support for PhantomJS has been deprecated, please use headless '
UserWarning: Selenium support for PhantomJS has been deprecated, please use headless versions of Chrome or Firefox instead
我遇到的问题是,我将使用 Python 3.6 AWS Lambda 函数
https://www.fullstackpython.com/blog/aws-lambda-python-3-6.html。我不相信我可以安装无头版本的 Chrome/Firefox?
为了得到我想要的输出,上述方法是否矫枉过正?请帮忙
【问题讨论】:
-
如果您打算在 Lambda 内部部署,最好使用
requests和BeautifulSoup。 -
仅供参考,我不相信cryptocompare.com/api 会有所帮助。
-
使用javascript?
-
啊,好点,如果它是生成的内容,那将不起作用。您可以尝试在装有 chrome 的 ECS 中运行容器。
标签: python web-scraping cryptography bitcoin