【问题标题】:SaveMode is not working in Spark SQLSaveMode 在 Spark SQL 中不起作用
【发布时间】:2016-07-08 12:48:25
【问题描述】:

我正在使用 SaveMode 选项运行 Spark SQL 示例,但出现以下错误。

val df = sqlContext.read.format("json").load("/user/root/spark/data/people.json")
df.select("name","age").write.format("json").save("Output",SaveMode.ErrorIfExist)


<console>:35: error: overloaded method value save with alternatives:
  ()Unit <and>
  (path: String)Unit
 cannot be applied to (String, org.apache.spark.sql.SaveMode)
              df.select("name", "age").write.format("json").save("Output",SaveMode.ErrorIfExists

我检查了文档,它说 SaveMode 已被弃用。我该如何解决这个问题?

任何建议。

【问题讨论】:

    标签: scala apache-spark apache-spark-sql


    【解决方案1】:

    你可以使用DataFrameWriter.mode方法:

    df.write.mode("error").save(...)
    

    df.write.mode(SaveMode.ErrorIfExists).save(...)
    

    【讨论】:

    • 感谢您的帮助。我正在使用 scala 进行开发,当我使用 SaveMode.ErrorIfExists 时,它不工作,但模式为“错误”它工作得很好。 Apache Spark SQL 文档说 SaveMode.ErrorIfExists 被 scala/java 接受,这似乎没有发生。有什么想法吗?
    • @Shashi 使用 import org.apache.spark.sql.SaveMode 。然后尝试 df.write.mode(SaveMode.ErrorIfExists).save(...)
    猜你喜欢
    • 2023-02-03
    • 2016-03-21
    • 2022-08-07
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多