【问题标题】:How to screen scrape an Ajax site in Java?如何在 Java 中筛选抓取 Ajax 站点?
【发布时间】:2011-09-25 09:15:17
【问题描述】:

我希望屏幕抓取几个基于 Ajax 的网站并模拟刷新网页部分的点击,然后阅读更新的 HTML。有没有可以做到这一点的Java库?

【问题讨论】:

  • 我认为 @Zubair 正在寻找 java 端解决方案,而不是一般的屏幕刮板......无论哪种方式 apache 的 HtmlUnit 都是要走的路。
  • 是的,如果可能的话,我想使用无头服务器解决方案,但如果不可能,我将不得不自动化浏览器或其他东西
  • 我确实看到提到的另一个屏幕抓取问题,但它链接的工具大部分是通用工具

标签: java web-scraping screen-scraping scrape


【解决方案1】:

这些书应该对你有所帮助(尽管只有第一本是为 Java 开发人员准备的):

【讨论】:

    【解决方案2】:

    我认为这样做的唯一方法是嵌入浏览器,以便在更新 DOM 时执行 Javascript 并获取数据。 This related stack overflow question may help.

    【讨论】:

      【解决方案3】:

      使用HtmlUnit 非常适合!它是一款无头浏览器,能够通过点击、鼠标位置以及几乎所有您想要的方式进行游戏。

      【讨论】:

        猜你喜欢
        • 1970-01-01
        • 2010-10-17
        • 1970-01-01
        • 1970-01-01
        • 1970-01-01
        • 1970-01-01
        • 1970-01-01
        • 1970-01-01
        • 2019-08-27
        相关资源
        最近更新 更多