【问题标题】:Sparkling water droplet project running issue气泡水滴项目运行问题
【发布时间】:2016-07-24 07:20:19
【问题描述】:

我从“https://github.com/h2oai/h2o-droplets/tree/master/sparkling-water-droplet”克隆了 sparkling droplet 项目。并分别使用 ./gradlew clean./gradlew build 清理和构建项目。之后尝试使用命令运行项目
spark-submit --class water.droplets.SparklingWaterDroplet build/libs/sparkling-water-droplet-app.jar
然后收到以下错误消息:

Exception in thread "main" java.lang.NoClassDefFoundError: water/fvec/Frame
at water.droplets.SparklingWaterDroplet.main(SparklingWaterDroplet.scala)
at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62)
at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
at java.lang.reflect.Method.invoke(Method.java:497)
at org.apache.spark.deploy.SparkSubmit$.org$apache$spark$deploy$SparkSubmit$$runMain(SparkSubmit.scala:674)
at org.apache.spark.deploy.SparkSubmit$.doRunMain$1(SparkSubmit.scala:180)
at org.apache.spark.deploy.SparkSubmit$.submit(SparkSubmit.scala:205)
at org.apache.spark.deploy.SparkSubmit$.main(SparkSubmit.scala:120)
at org.apache.spark.deploy.SparkSubmit.main(SparkSubmit.scala)

Caused by: java.lang.ClassNotFoundException: water.fvec.Frame
at java.net.URLClassLoader.findClass(URLClassLoader.java:381)
at java.lang.ClassLoader.loadClass(ClassLoader.java:424)
at java.lang.ClassLoader.loadClass(ClassLoader.java:357)
... 10 more

【问题讨论】:

    标签: scala apache-spark machine-learning h2o


    【解决方案1】:

    您必须运行 ./gradlew shadowJar 并使用由它创建的 jar build/libs/sparkling-water-droplet-app.jar 代替,因为它会创建一个胖 jar,其中包含提交作业时所需的所有类(build 任务不会这样做)。

    【讨论】:

    • 附加说明:我推动了水滴升级以与最新版本的苏打水同步
    • 我做了 showJar 步骤。投诉不是关于 water/fvec/Frame 类,而是关于缺少 org/apache/spark/repl/h2o/H2OInterpreter 我检查过,该类位于 SparklingWater jar sparkling-water-repl_2.10-1.6.4.jar它被声明为依赖项,但 ./gradlew shadowJar 没有将它包含在胖 jar 中。有谁知道为什么不呢?
    • @bhomass 我和你有同样的问题。你解决了吗?
    猜你喜欢
    • 2020-05-11
    • 2016-03-10
    • 2021-11-24
    • 1970-01-01
    • 1970-01-01
    • 2020-12-05
    • 1970-01-01
    • 1970-01-01
    • 2011-07-17
    相关资源
    最近更新 更多