Apache Spark，创建配置单元上下文 - NoSuchMethodException答案

【问题标题】：Apache Spark, creating hive context - NoSuchMethodExceptionApache Spark，创建配置单元上下文 - NoSuchMethodException
【发布时间】：2016-03-10 15:24:04
【问题描述】：

我有以下问题，我的主要方法是：

static public void main(String args[]){
     SparkConf conf = new SparkConf().setAppName("TestHive");
     SparkContext sc = new org.apache.spark.SparkContext(conf);
     HiveContext hiveContext = new org.apache.spark.sql.hive.HiveContext(sc);    
}

我用mvn package 构建它然后我提交我的代码，但是我得到以下异常。我不知道出了什么问题：

sh spark-submit --class "TestHive" --master local[4] ~/target/test-1.0-SNAPSHOT-jar-with-dependencies.jar 

Exception in thread "main" java.lang.NoSuchMethodException: org.apache.hadoop.hive.conf.HiveConf.getTimeVar(org.apache.hadoop.hive.conf.HiveConf$ConfVars, java.util.concurrent.TimeUnit)

请告诉我，我哪里错了。

PS 我用 hive 和 thriftServer 构建了我的火花。

Spark 1.5.2 built for Hadoop 2.4.0
Build flags: -Psparkr -Phadoop-2.4 -Phive -Phive-thriftserver -Pyarn

【问题讨论】：

当你在做mvn package时你有没有“胖罐子”？这意味着一个包含所有依赖项的jar？？
我无法重现错误，使用与您完全相同的代码。我认为它可能是 spark-hive 的版本，请列出 maven 依赖项<artifactId>spark-hive_2.10</artifactId> 吗？你用的是哪个版本？
是的，你是对的，这是关于 hive 版本的。

标签： java exception apache-spark hive

【解决方案1】：

似乎是spark组件（spark-core、spark-sql和spark-hive）之间的版本冲突

为避免这种冲突，这些组件的所有版本都应该相同。您可以在 pom.xml 中通过设置一个名为 spark.version 的属性来执行此操作，例如：

<properties>
    <spark.version>1.6.0</spark.version>
</properties>
<dependencies>
    <dependency>
        <groupId>org.apache.spark</groupId>
        <artifactId>spark-core_2.10</artifactId>
        <version>${spark.version}</version>
    </dependency>
    <dependency>
        <groupId>org.apache.spark</groupId>
        <artifactId>spark-hive_2.10</artifactId>
        <version>${spark.version}</version>
    </dependency>
    <dependency>
        <groupId>org.apache.spark</groupId>
        <artifactId>spark-sql_2.10</artifactId>
        <version>${spark.version}</version>
    </dependency>
    <dependency>
        <groupId>org.apache.spark</groupId>
        <artifactId>spark-streaming_2.10</artifactId>
        <version>${spark.version}</version>
    </dependency>
</dependencies>

【讨论】：