【问题标题】:scraping data from Chicago Mercantile Exchange website从芝加哥商品交易所网站抓取数据
【发布时间】:2020-11-17 15:37:09
【问题描述】:

我正在尝试从 CME 网站的表格中抓取数据。具体来说,我想提取每种未来货币的未平仓合约数据。但是当我尝试解析表格时,它什么也没给我。

下面给出的链接from which I am trying to scrape the data 是我正在尝试执行的代码。

from bs4 import BeautifulSoup
import requests

url="https://www.cmegroup.com/market-data/volume-open-interest/fx-volume.html"

# Make a GET request to fetch the raw HTML content
html_content = requests.get(url).text

# Parse the html content
soup = BeautifulSoup(html_content)
table = soup.find("table", attrs={"class": "cmeData voiDataset"})
print(table)

【问题讨论】:

    标签: python selenium web-scraping beautifulsoup python-requests-html


    【解决方案1】:

    表格数据来自另一个您可以使用的 HTML 文档

    from bs4 import BeautifulSoup
    import requests
    
    url = 'https://www.cmegroup.com/CmeWS/mvc/xsltTransformer.do?xlstDoc=/XSLT/md/voi/voi_asset_class_final.xsl&url=/da/VOI/V2/Totals/TradeDate/20201116/AssetClassId/3/ReportType/F?excluded=CEE,CEU,KCB&hidelinks=false&html='
    
    # Make a GET request to fetch the raw HTML content
    html_content = requests.get(url).text
    
    # Parse the html content
    soup = BeautifulSoup(html_content)
    table = soup.find("table", attrs={"class": "cmeData voiDataset"})
    print(table)
    

    要获取特定日期的数据,您可以更改 URL,如下所示

    # Date for 2020 November 12
    date = '20201112'
    url = 'https://www.cmegroup.com/CmeWS/mvc/xsltTransformer.do?xlstDoc=/XSLT/md/voi/voi_asset_class_final.xsl&url=/da/VOI/V2/Totals/TradeDate/{}/AssetClassId/3/ReportType/F?excluded=CEE,CEU,KCB&hidelinks=false&html='.format(date)
    

    【讨论】:

    • 我仍然得到“无”。我使用了您发送给我的代码,但没有发生任何事情@Jsaon
    • 我正在尝试对此处第一个表中的卷数据进行类似的搜索...cmegroup.com/trading/interest-rates/us-treasury/… 但数据在我的搜索中并不明显。你是怎么想出合适的网址来使用的
    • 我使用 selenum 来抓取值,使用 selenium 效果很好。
    • @user3697498 你可以打开浏览器 -> 按 F12 -> 切换到网络选项卡 -> 导航到 URL -> 检查请求列表
    猜你喜欢
    • 2019-01-21
    • 2017-03-17
    • 1970-01-01
    • 1970-01-01
    • 2014-07-06
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多