【问题标题】:Problems with RSeleniumRSelenium 的问题
【发布时间】:2017-06-25 19:47:00
【问题描述】:

大家晚上好,

我一直在尝试使用 RSelenium 运行我的旧脚本。由于一些变化,它不再工作了。原来的代码是

require(RSelenium)
require(rvest)
RSelenium::checkForServer()
RSelenium::startServer()
remDr <- remoteDriver()
remDr$open()

remDr$navigate(linkPlayersPage)
doc <- remDr$getPageSource()
doc <- read_html(doc[[1]])
path <- "//table[@class='playersquickfindtable']/tbody/tr/td/form/table/tbody/tr/td/div/img"
quickFind <- doc %>% html_nodes(xpath=path) %>% xml_attr("alt")
remDr$close()

根据我在这里找到的建议,我将其更改为以下内容

require(RSelenium)
require(rvest)

driver <- rsDriver()
remDr <- driver[["client"]]

remDr$navigate(linkPlayersPage)
doc <- remDr$getPageSource()
doc <- read_html(doc[[1]])
path <- "//table[@class='playersquickfindtable']/tbody/tr/td/form/table/tbody/tr/td/div/img"
quickFind <- doc %>% html_nodes(xpath=path) %>% xml_attr("alt")
remDr$close()

问题是它并没有真正起作用。或者它有时可以工作,但首先,它非常慢,其次(更重要的问题)脚本经常停止(我有一个超过 11000 个地址的循环)。有时在等待一段时间并从它停止的地方重新运行后,它会起作用,有时根本不起作用,但我知道它应该起作用。我收到以下错误(对不起,它是英语和法语的混合,但是对于说英语的人来说,这几个法语单词应该不难翻译)

Error in if (!is.null(YD) && grepl("Draft", YD)) { : valeur manquante là où TRUE / FALSE est requis缺少 TRUE / FALSE 的值

checking geckodriver versions: BEGIN: PREDOWNLOAD Error in open.connection(con, "rb") : HTTP error 403.

有时我会遇到一些其他错误,但 10" 是最常见的。我真的不知道为什么以及如何解决这个问题。

今天我有一个新错误

checking geckodriver versions: BEGIN: PREDOWNLOAD BEGIN: DOWNLOAD BEGIN: POSTDOWNLOAD checking phantomjs versions: BEGIN: PREDOWNLOAD BEGIN: DOWNLOAD BEGIN: POSTDOWNLOAD Error in subprocess::spawn_process(tfile, ...) : could not create a pipe: system error message could not be fetched

我感觉所有这些都与rsDriver()有关。

在我阅读的答案中,提到最好的办法不是使用rsDriver(),而是使用Docker。在昨天之前,我不知道这是什么,我找不到任何可以清楚地解释它的作用或如何将它与 R 和 RSelenium 一起使用的东西......例如这里 RSelenium through docker 。我已经尝试了链接,但页面不会显示...

谁能帮忙解决这个问题?解决我的 rsDriver() 问题以使其成为 100% 可行的解决方案对我来说很好。非常感谢你。有关信息,我在 OpenSuse 上(不知道这是否会与在 Windows 或 Mac 系统上有所不同)。

我正在浏览的列表包含 NFL 网站上的球员网页。一个例子是http://www.nfl.com/players/profile?id=00-0019290

【问题讨论】:

    标签: r docker rselenium


    【解决方案1】:

    最后,我可以使用 Docker 解决这个问题。以下https://cran.r-project.org/web/packages/RSelenium/vignettes/RSelenium-docker.html 提供了有关如何进行的良好信息。该脚本运行良好并且不会停止(目前,我测试了大约 100 页,并在今天早上启动了循环)。它仍在运行,可能需要一天多的时间才能完成。 我无法使用 rsDriver 解决问题,它总是会因错误而停止 Error in subprocess::spawn_process(tfile, ...) : could not create a pipe: system error message could not be fetched 我不知道为什么。即使我解决了我的问题并且可以再次运行我的脚本,如果有人知道 rsDriver() 没有完成这项工作的原因,我将不胜感激。

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 2023-03-04
      • 2014-11-02
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2022-11-09
      • 2017-10-27
      • 1970-01-01
      相关资源
      最近更新 更多