【问题标题】:How to build Apache Spark using Gradle?如何使用 Gradle 构建 Apache Spark?
【发布时间】:2016-11-22 05:02:47
【问题描述】:

我正在尝试在 Eclipse 中用 Java 构建一个 Apache Spark 应用程序。我使用 Gradle 作为我的构建管理系统。我应该在我的build.gradle 中写什么以及我应该使用哪些 gradle 命令来执行与此 Maven POM 和终端命令相同的操作?

<project>
  <groupId>edu.berkeley</groupId>
  <artifactId>simple-project</artifactId>
  <modelVersion>4.0.0</modelVersion>
  <name>Simple Project</name>
  <packaging>jar</packaging>
  <version>1.0</version>
  <dependencies>
    <dependency>
      <groupId>org.apache.spark</groupId>
      <artifactId>spark-core_2.10</artifactId>
      <version>1.6.1</version>
    </dependency>
  </dependencies>
</project>

mvn package

$ YOUR_SPARK_HOME/bin/spark-submit \
--class "SimpleApp" \
--master local[4] \
target/simple-project-1.0.jar

【问题讨论】:

    标签: java maven gradle apache-spark


    【解决方案1】:

    试试这个。如果是Java项目,可以去掉第一行:

    apply plugin: 'scala'
    
    buildscript {
        repositories {
            mavenCentral()
        }
    }
    
    repositories {
        mavenLocal()
        mavenCentral()
    }
    
    dependencies{
        compile "org.apache.spark:spark-core_2.10:1.6.1"
    }
    

    【讨论】:

    • 这确实会导致构建成功,但在 Eclipse 中,所有导入的错误行仍然出现。 jar 也没有创​​建。是否可以从 Gradle 执行 spark-sumbit
    • 要解决这个问题,请按照以下步骤操作:stackoverflow.com/questions/17907927/…,就我而言,第二个答案解决了我的问题(对不起我的英语)
    • 我不知道在 Gradle 中提交 spark 作业和构建 jar 是否是最好的主意@khateeb 我会使用 jenkins 甚至更好的气流
    猜你喜欢
    • 2015-05-08
    • 2021-12-23
    • 1970-01-01
    • 2019-12-21
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2014-12-22
    相关资源
    最近更新 更多