【问题标题】:How to get XMLHTTPRequest response text of external web page using Java?如何使用 Java 获取外部网页的 XMLHTTPRequest 响应文本?
【发布时间】:2016-03-18 03:03:56
【问题描述】:

我很难解析来自外部网站的数据,例如,stackoverflow.com,只使用 Java。 为了了解这个网页的内容,我访问了 Chrome 开发工具,并在 XMLHTTPRequest response 找到了我需要的所有信息!如果它有用,响应具有 JSON 格式。问题是如何仅使用 Java 而不使用 Servlet 来获取这些数据。

【问题讨论】:

  • 我尝试使用 WebDriver 之类的东西,但发现使用 cssSelector 之类的东西太难了。你到底打算做什么?能否提供您尝试过的代码示例?
  • 我想无论我到底想做什么。问题是如何获得包含我需要的所有数据的 XMLHTTPRequest 的响应

标签: java xmlhttprequest


【解决方案1】:

不要试图抓取和解析网页,只需使用 StackExchange API 和标准 Java 工具发出请求并获取原始数据。

如果您的实际问题与 SO 没有直接关系,那么,请寻找相关网站的 API。否则,您将需要通过手动解析或在浏览器引擎中运行页面并在无头引擎中使用标准 JS 来获取数据来从字面上抓取网页。

【讨论】:

  • 嗯,我的答案是使用 Apache HTTPClient,它提供了执行所需请求的工具
  • @antongarakh 你能给我解决方案吗?我非常需要它,请
猜你喜欢
  • 2020-08-02
  • 1970-01-01
  • 1970-01-01
  • 2019-09-28
  • 1970-01-01
  • 1970-01-01
  • 2011-10-27
  • 1970-01-01
  • 2020-08-11
相关资源
最近更新 更多