如何修复“org.apache.spark.sql.execution.datasources.orc.OrcColumnVector.getLong(OrcColumnVector.java:141) 处的 java.lang.NullPointerException”答案

【问题标题】：How to Fix "java.lang.NullPointerException at org.apache.spark.sql.execution.datasources.orc.OrcColumnVector.getLong(OrcColumnVector.java:141)"如何修复“org.apache.spark.sql.execution.datasources.orc.OrcColumnVector.getLong(OrcColumnVector.java:141) 处的 java.lang.NullPointerException”
【发布时间】：2019-12-06 12:41:48
【问题描述】：

我正在尝试将数据框中的所有列合并到一个名为 value 的列中。

我的代码：

    val df = sparkSession.sql(sql)

    val dfwithValue = df.withColumn("value",df.col("topic"))

    dfwithValue.selectExpr("CAST(value AS STRING)").show() // no error

    import org.apache.spark.sql.functions._

    val cols = df.columns.map({ col =>
      df.col(col)
    }).toSeq

     val newdf = df.withColumn("value", struct(cols : _*))

     newdf.selectExpr("CAST(value AS STRING)").show() // error

当我使用第二种方式时，我遇到了错误

Caused by: java.lang.NullPointerException
    at org.apache.spark.sql.execution.datasources.orc.OrcColumnVector.getLong(OrcColumnVector.java:141)
    at org.apache.spark.sql.catalyst.expressions.GeneratedClass$GeneratedIteratorForCodegenStage1.processNext(Unknown Source)
    at org.apache.spark.sql.execution.BufferedRowIterator.hasNext(BufferedRowIterator.java:43)
    at org.apache.spark.sql.execution.WholeStageCodegenExec$$anonfun$13$$anon$1.hasNext(WholeStageCodegenExec.scala:636)
    at scala.collection.Iterator$$anon$11.hasNext(Iterator.scala:409)
    at org.apache.spark.shuffle.sort.BypassMergeSortShuffleWriter.write(BypassMergeSortShuffleWriter.java:125)
    at org.apache.spark.scheduler.ShuffleMapTask.runTask(ShuffleMapTask.scala:99)
    at org.apache.spark.scheduler.ShuffleMapTask.runTask(ShuffleMapTask.scala:55)
    at org.apache.spark.scheduler.Task.run(Task.scala:121)
    at org.apache.spark.executor.Executor$TaskRunner$$anonfun$10.apply(Executor.scala:403)
    at org.apache.spark.util.Utils$.tryWithSafeFinally(Utils.scala:1360)
    at org.apache.spark.executor.Executor$TaskRunner.run(Executor.scala:409)
    at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1149)
    at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:624)
    at java.lang.Thread.run(Thread.java:748)

有人可以帮忙吗？

【问题讨论】：

标签： dataframe apache-spark orc

【解决方案1】：

这两种方法我都没有遇到错误，但我发现解决方案对于这项任务来说过于复杂。此代码还返回 Row[WarappedArray[String]] 而不是 Row[String]

行的数据帧

试试：

df.map(_.mkString("")).toDF("value").show()

【讨论】：

我认为这个错误与sql中使用的表有关。当我在 sql 中使用另一个表时，错误消失了。
@Mi7flat5 我有类似的错误，stackoverflow.com/questions/71235221/…，如何解决？

【解决方案2】：

当值不可访问时也会出现空指针异常，请检查变量的范围以解决问题。

【讨论】：

我有类似的错误，stackoverflow.com/questions/71235221/…，如何解决？