【问题标题】:Error while running maven jar file运行maven jar文件时出错
【发布时间】:2017-02-05 02:24:20
【问题描述】:

我从 Eclipse 创建了 maven jar 文件。运行 jar 时出现以下错误。

错误:

 A JNI error has occurred, please check your installation and try again

    Exception in thread "main" java.lang.NoClassDefFoundError: org/apache/hadoop/fs/FSDataOutputStream
    at java.lang.Class.getDeclaredMethods0(Native Method)
    at java.lang.Class.privateGetDeclaredMethods(Unknown Source) 
    at java.lang.Class.privateGetMethodRecursive(Unknown Source)

请指导是否需要在pom.xml中添加依赖

pom.xml

<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
  <modelVersion>4.0.0</modelVersion>
  <groupId>utd.bigdata</groupId>
  <artifactId>hadoop1</artifactId>
  <version>0.0.1-SNAPSHOT</version>
  <name>hw1</name>
  <dependencies>
  <dependency>
        <groupId>org.apache.hadoop</groupId>
        <artifactId>hadoop-client</artifactId>
        <version>2.4.1</version>
  </dependency>
   <dependency>
     <groupId>org.apache.hadoop</groupId>
      <artifactId>hadoop-common</artifactId>
      <version>2.7.3</version>
        <scope>compile</scope>
       </dependency>
  <!--  <dependency>
    <groupId>org.apache.hadoop</groupId>
    <artifactId>hadoop-auth</artifactId>
    <version>2.4.1</version>
</dependency>-->
  </dependencies>
  <build>
    <plugins>
        <plugin>
            <!-- Build an executable JAR -->
            <groupId>org.apache.maven.plugins</groupId>
            <artifactId>maven-jar-plugin</artifactId>
            <version>2.4</version>
            <configuration>
                <archive>
                    <manifest>
                        <mainClass>bigdata.UploadHadoop</mainClass>
                        <classpathPrefix>classes/lib</classpathPrefix>
                    </manifest>
                </archive>
            </configuration>
        </plugin>
    </plugins>
</build>
</project>

还有 pom.xml 有什么错误吗?请提出任何代码更改

【问题讨论】:

  • 您能否详细说明您是如何运行 jar 的?是通过 Eclipse 调试/运行时吗?是命令行吗?什么是命令行命令?

标签: java maven hadoop hdfs bigdata


【解决方案1】:

常规 .jar 存档在运行时不包含其依赖项,为此您可以使用 maven-assembly-plugin 创建胖可执行 Jar:

https://maven.apache.org/plugins/maven-assembly-plugin/usage.html

<!-- Create a fat Jar -->
<plugin>
  <artifactId>maven-assembly-plugin</artifactId>
  <executions>
    <execution>
      <phase>package</phase>
      <goals>
        <goal>single</goal>
      </goals>
    </execution>
  </executions>
  <configuration>
    <archive>
      <manifest>
        <mainClass>bigdata.UploadHadoop</mainClass>
      </manifest>
    </archive>
    <descriptorRefs>
      <descriptorRef>jar-with-dependencies</descriptorRef>
    </descriptorRefs>
  </configuration>
</plugin>

【讨论】:

    【解决方案2】:

    作为“fat jar”的替代方案,hadoop jar runner 还支持“jar of jars”格式。值得注意的是它不是jar的标准,但是由于hadoop支持它,这里是:How do I put all required JAR files in a library folder inside the final JAR file with Maven?

    这种格式是一个普通的 jar,但有一个 lib/ 文件夹包含所有依赖 jar。

    【讨论】:

      【解决方案3】:

      如果你使用maven-jar-plugin构建可执行jar,请阅读文档。 http://maven.apache.org/shared/maven-archiver/examples/classpath.html#Make

      首先,在 pom.xml 中添加 maven-jar-plugin

      <build>
          <plugins>
            <plugin>
              <groupId>org.apache.maven.plugins</groupId>
              <artifactId>maven-jar-plugin</artifactId>
              ...
              <configuration>
                <archive>
                  <manifest>
                    <addClasspath>true</addClasspath>
                    <mainClass>bigdata.UploadHadoop</mainClass>
                    <classpathPrefix>classes/lib</classpathPrefix>
                  </manifest>
                </archive>
              </configuration>
              ...
            </plugin>
          </plugins>
        </build>
      

      其次,它不会将依赖 jar 附加到项目 jar。所以你必须确保依赖 jars(hadoop-client, hadoop-common) 自己在 classes/lib 中。

      最后,我建议你使用 maven-shade-plugin 构建一个可执行的 jar(fat jar) http://maven.apache.org/plugins/maven-shade-plugin/examples/executable-jar.html 它会自行将依赖 jar 附加到结果 shade jar。 您还可以使用 maven-assembly-plugin 构建可执行 jar,但不推荐。

      <build>
          <plugins>
            <plugin>
              <groupId>org.apache.maven.plugins</groupId>
              <artifactId>maven-shade-plugin</artifactId>
              <version>3.0.0</version>
              <executions>
                <execution>
                  <phase>package</phase>
                  <goals>
                    <goal>shade</goal>
                  </goals>
                  <configuration>
                    <transformers>
                      <transformer implementation="org.apache.maven.plugins.shade.resource.ManifestResourceTransformer">
                        <mainClass>bigdata.UploadHadoop</mainClass>
                      </transformer>
                    </transformers>
                  </configuration>
                </execution>
              </executions>
            </plugin>
          </plugins>
        </build>
      

      【讨论】:

      • 嗨,我有一个非常愚蠢的问题,我有存货。我在本地有一个简单的(只是打印 hello world).class 文件,我可以将它转换为 .jar 并在本地运行它,没有问题。但是,当我将它放在我的 hadoop 集群中时,我遇到了一个愚蠢的错误:JAR 不存在或不是普通文件:/usr/reihan/test.jar 我还应该提到我可以运行 hadoop-builtin-examples 之类wordcount 没有问题,但是当我想运行自己的 jar 时,我遇到了这个问题。有什么想法吗?
      猜你喜欢
      • 2011-02-02
      • 2012-05-14
      • 2014-05-19
      • 2023-03-30
      • 1970-01-01
      • 2022-06-11
      • 2017-08-21
      • 2010-12-22
      • 2013-05-11
      相关资源
      最近更新 更多