【问题标题】:ERROR org.apache.pig.tools.grunt.Grunt - ERROR 2998: Unhandled internal error. org/python/google/common/collect/Lists错误 org.apache.pig.tools.grunt.Grunt - 错误 2998:未处理的内部错误。 org/python/google/common/collect/列表
【发布时间】:2022-08-17 13:32:08
【问题描述】:

我刚刚开始使用 Pig,在运行我的第一个程序时遇到了很多问题。任何帮助深表感谢。

我试过用这些解决:

ERROR org.apache.pig.tools.grunt.Grunt - ERROR 2998: Unhandled internal error. org/apache/hadoop/hbase/filter/WritableByteArrayComparable

Pig Installation error: ERROR pig.Main: ERROR 2998: Unhandled internal error

但它们似乎都不起作用。有人可以就需要做的事情给出更详细的解决方案。

猪版:0.17.0

堆栈跟踪:

Pig Stack Trace
---------------
ERROR 2998: Unhandled internal error. org/python/google/common/collect/Lists

java.lang.NoClassDefFoundError: org/python/google/common/collect/Lists
    at org.apache.pig.tools.pigstats.mapreduce.MRJobStats.getTaskReports(MRJobStats.java:533)
    at org.apache.pig.tools.pigstats.mapreduce.MRJobStats.addMapReduceStatistics(MRJobStats.java:355)
    at org.apache.pig.tools.pigstats.mapreduce.MRPigStatsUtil.addSuccessJobStats(MRPigStatsUtil.java:232)
    at org.apache.pig.tools.pigstats.mapreduce.MRPigStatsUtil.accumulateStats(MRPigStatsUtil.java:164)
    at org.apache.pig.backend.hadoop.executionengine.mapReduceLayer.MapReduceLauncher.launchPig(MapReduceLauncher.java:379)
    at org.apache.pig.backend.hadoop.executionengine.HExecutionEngine.launchPig(HExecutionEngine.java:290)
    at org.apache.pig.PigServer.launchPlan(PigServer.java:1475)
    at org.apache.pig.PigServer.executeCompiledLogicalPlan(PigServer.java:1460)
    at org.apache.pig.PigServer.storeEx(PigServer.java:1119)
    at org.apache.pig.PigServer.store(PigServer.java:1082)
    at org.apache.pig.PigServer.openIterator(PigServer.java:995)
    at org.apache.pig.tools.grunt.GruntParser.processDump(GruntParser.java:782)
    at org.apache.pig.tools.pigscript.parser.PigScriptParser.parse(PigScriptParser.java:383)
    at org.apache.pig.tools.grunt.GruntParser.parseStopOnError(GruntParser.java:230)
    at org.apache.pig.tools.grunt.GruntParser.parseStopOnError(GruntParser.java:205)
    at org.apache.pig.tools.grunt.Grunt.exec(Grunt.java:81)
    at org.apache.pig.Main.run(Main.java:630)
    at org.apache.pig.Main.main(Main.java:175)
    at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
    at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62)
    at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
    at java.lang.reflect.Method.invoke(Method.java:498)
    at org.apache.hadoop.util.RunJar.run(RunJar.java:323)
    at org.apache.hadoop.util.RunJar.main(RunJar.java:236)
Caused by: java.lang.ClassNotFoundException: org.python.google.common.collect.Lists
    at java.net.URLClassLoader.findClass(URLClassLoader.java:387)
    at java.lang.ClassLoader.loadClass(ClassLoader.java:418)
    at java.lang.ClassLoader.loadClass(ClassLoader.java:351)
    ... 24 more
================================================================================

  • 如果您想要详细的解决方案,您需要提供问题的详细描述。首先向我们展示 >your< 异常的完整堆栈跟踪。使用 EDIT 将其添加到问题中。 (不是评论。不是“答案”。作为文本,而不是图像。)
  • @斯蒂芬C。我已经添加了堆栈跟踪。

标签: hadoop apache-pig


【解决方案1】:

我认为这是某些版本的 Pig 中的错误。

似乎它(MRJobStats.java)使用org.python.google.common.collect.* 类而不是org.google.common.collect.*,并且前者不在类路径中。

该错误已在此提交中修复:

2017 年 7 月。不幸的是,那是在您使用的 pig 0.17.0 版本之后;见https://github.com/apache/pig/blob/trunk/CHANGES.txt

因此,您很可能需要为自己结帐和构建猪。 Github 上的 README.txt 文件中有构建说明的链接:https://github.com/apache/pig

【讨论】:

  • 看起来要运行和构建 pig 的页面不存在。你能重新检查链接吗?
  • 我认为使用 0.15.0 版本是一个安全的选择。
  • 嗯。有人应该向 Pig 开发人员提出问题,以修复其 README.md 中的链接并恢复构建说明。 (我不想注册,因为我对使用 Pig 没有个人兴趣。你呢?)
  • 是的,我会这样做。
【解决方案2】:

使用以下依赖项可以解决该问题: https://mvnrepository.com/artifact/org.apache.pig/pig/0.17.0-cdh6.3.4

【讨论】:

    猜你喜欢
    • 2014-01-28
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多