【问题标题】:How to install jvmr package on databricks如何在databricks上安装jvmr包
【发布时间】:2015-10-11 16:14:06
【问题描述】:

我想在数据块上的 scala 脚本中调用 R 函数。无论如何我们可以做到吗?

我用

JVMR_JAR=$(R --slave -e 'library("jvmr"); cat(.jvmr.jar)')
scalac -cp "$JVMR_JAR"
scala -cp ".:$JVMR_JAR"

在我的 Mac 上,它会自动打开一个可以调用 R 函数的 scala。 有什么办法可以在数据块上做类似的事情吗?

【问题讨论】:

  • 在数据块上”是什么意思?您在使用Databricks cloud 吗?
  • 是的,我正在使用 Databricks 云。

标签: r scala apache-spark


【解决方案1】:

在 DataBricks Cloud 上,您可以使用 sbt-databricks 将外部库部署到云端并将它们附加到特定集群,这是确保 jvmr 可用于您调用它的机器的两个必要步骤。

请参阅插件的 github README 和 the blog post

如果这些资源还不够,也许您应该向 Databricks 的支持部门提出问题。

【讨论】:

    【解决方案2】:

    如果你想在 scala notebook 中调用 R 函数,你可以使用 %r 快捷方式。

    df.registerTempTable("temp_table_scores")
    

    创建一个新单元格,然后使用:

    %r
    scores <- table(sqlContext, "temp_table_scores")
    local_df <- collect(scores)    
    someFunc(local_df)
    

    如果要将数据传回环境中,可以将其保存到 S3 或注册为临时表。

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2020-03-03
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多