【问题标题】:spark-submit on standalone cluster complain about scala-2.10 jars not exist独立集群上的 spark-submit 抱怨 scala-2.10 jar 不存在
【发布时间】:2017-07-25 03:57:37
【问题描述】:

我是 Spark 新手,从 Apache 下载了预编译的 Spark 二进制文件 (Spark-2.1.0-bin-hadoop2.7)

在提交我的 scala (2.11.8) uber jar 时,集群抛出错误:

java.lang.IllegalStateException: Library directory '/root/spark/assembly/target/scala-2.10/jars' does not exist; make sure Spark is built

我没有运行 Scala 2.10,并且 Spark 没有使用 Scala 2.10 编译(据我所知)

难道我的依赖项之一是基于 Scala 2.10 的吗?
有什么建议有什么问题吗?

【问题讨论】:

  • 你能分享你在你的 uber jar 中打包的依赖项列表吗?
  • @himanshuIIITian "org.scalatest" %% "scalatest" % "3.0.1", "org.scalaj" %% "scalaj-http" % "2.3.0", "org.apache.spark" %% "spark-core" % "2.2.0" % "provided", "org.apache.spark" %% "spark-sql" % "2.2.0" % "provided", "org.apache.spark" %% "spark-yarn" % "2.2.0", "org.apache.hadoop" % "hadoop-client" % "2.8.1", "org.apache.hadoop" % "hadoop-yarn-client" % "2.8.1", "org.apache.hive" % "hive-jdbc" % "2.3.0"

标签: scala apache-spark apache-spark-standalone


【解决方案1】:

请注意预先构建的 spark-2.1.0 有什么问题,但我刚刚下载了 spark 2.2.0,它运行良好。

【讨论】:

    【解决方案2】:

    尝试在您的系统或 IDE 上设置 SPARK_HOME="location to your spark installation"

    【讨论】:

      猜你喜欢
      • 2015-04-30
      • 1970-01-01
      • 2016-03-27
      • 1970-01-01
      • 2016-08-03
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多