【问题标题】:Image scraping in Google Sheets using ImportXml使用 ImportXml 在 Google 表格中抓取图像
【发布时间】:2021-04-23 09:24:30
【问题描述】:

使用 Google 表格,我正在尝试从房地产网站抓取图像,以显示在与房产详细信息一起的单元格中。我已经能够使用一个简单的示例证明这是可能的,但是当我尝试制定 xpath 查询来抓取我需要的特定图像时,我不断收到错误。

作为一个工作示例,我将使用this webpage

在我的示例中 ImportXML 命令中的单元格引用始终指向此 URL。

我想要的图像是滑块的一部分,并且很容易被他们的班级识别:'rsImg rsMainSlideImage'

我尝试使用以下命令抓取滑块中的第一张图片:

=IMPORTXML(A2, "(//img[@class='rsImg rsMainSlideImage'])[1]/@src")

我不断收到错误:

"Imported content is empty"

为了诊断问题,我做了一个更简单的例子:

我可以使用以下 xPath 从页面中获取第一张图片(不是我的目标图片):

=IMPORTXML(A2, "(//img)[1]/@src")

这样就成功显示了图片的URL。

我可以通过将其包装在 image 命令中来在单元格中显示此图像:

=image(IMPORTXML(A2, "(//img)[1]/@src"))

这表明原则上我应该能够抓取图像并将其显示在单元格中。

但我无法选择我使用该类定位的图像而不会出错。 这是我使用的命令:

=IMPORTXML(A2, "(//img[@class='rsImg rsMainSlideImage'])[1]/@src")

除了根据类属性选择图像之外,我不确定我的示例有效和无效示例之间有什么区别。

我将非常感谢任何支持以使其正常运行。

【问题讨论】:

    标签: image xpath google-sheets scrape


    【解决方案1】:

    问题出在网站上

    您的 xpath 看起来不错,但网站 HTML 却不行!

    如果您在此网站上使用 HTML 验证器:

    https://validator.w3.org/nu/?doc=https%3A%2F%2Fwww.jelliscraig.com.au%2Fproperty-details-228A-Victoria-Street-Ballarat-East%2F1042039

    您会看到它有很多错误,最关键的是,对于 XML,它有杂散标记。因此,在大多数情况下,XML 解析器要么感到困惑,要么将其视为无效而拒绝。

    我尝试了一堆不同的 xpath,但在任何地方都找不到任何 img 标记,即使为 //* 的所有内容创建 x-path - 这告诉我这个 HTML 可能格式不正确并且XML 解析器无法读取它。

    一种解决方法

    =REGEXEXTRACT(
        IMPORTXML(
            "https://www.jelliscraig.com.au/property-details-228A-Victoria-Street-Ballarat-East/1042039",
            "/"
        ),
        "https:\/\/images\.listonce.+\.jpg"
    )
    

    通过/ x-path 的结果,我发现该链接似乎在其他几个地方被引用。也许这对于大多数网站来说都是一致的,而且很可能所有图像都由相同的 URL 格式提供:

    https://images.listonce.com.au ... jpg
    

    因此,使用此信息,您可以将 IMPORTXML 包装在 REGEXEXTRACT 中,并使用松散的正则表达式,例如:

    https:\/\/images\.listonce.+\.jpg
    

    将返回,对于您提供的示例 URL:

    https://images.listonce.com.au/custom/m/listings/228a-victoria-street-ballarat-east-vic-3350/039/01042039_img_01.jpg

    这似乎是您要查找的图像。

    应用脚本

    也许看看Apps Script,特别是UrlFetchApp。使用这些工具,您将对获取的 HTML 进行更多控制,并为您提供更多选项来抓取数据。

    这是一个相同过程的示例,但使用了 Apps 脚本

    function getImageUrl() {
      // Fetch the website
      let response = UrlFetchApp.fetch("https://www.jelliscraig.com.au/property-details-228A-Victoria-Street-Ballarat-East/1042039")
      // Get the text from the response
      let html = response.getContentText()
      // Use Regex to Match the Tag
      let result = html.match(/(?<=img src=.+)https:\/\/images.listonce.com.au\/.+\.jpg/)
      // Log the first result
      Logger.log(result[0])
    }
    

    哪个会记录https://images.listonce.com.au/custom/l/listings/228a-victoria-street-ballarat-east-vic-3350/039/01042039_img_01.jpg

    参考文献

    【讨论】:

    • 感谢您抽出宝贵时间回复此问题。我认为您对网站的问题是正确的。我在一个随机网站上测试了我的 xpath,它运行良好。我将遵循您使用 Apps 脚本抓取目标网站的建议。非常感谢。很抱歉,我无法为您的答案投票,但我没有足够的声誉来投票。
    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2022-01-22
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多