【问题标题】:Spark structured streaming: converting row to jsonSpark结构化流:将行转换为json
【发布时间】:2018-03-28 00:05:18
【问题描述】:

我正在尝试仅使用 spark API 将 RowDataFrame 转换为 json 字符串。

来自输入Row

+----------------+-----------+
|       someThing|       else|
+----------------+-----------+
|            life|         42|
+----------------+-----------+

myDataFrame
.select(struct("*").as("col"))
.select(to_json(col("col")))
.writeStream()
.foreach(new KafkaWriter())
.start()

使用KafkaWriter,即使用row.toString() 我得到了:

[{  
    "someThing":"life",
    "else":42
}]

当我想得到这个时:

{  
    "someThing":"life",
    "else":42
}

(没有[]

有什么想法吗?

【问题讨论】:

    标签: java json scala apache-spark spark-structured-streaming


    【解决方案1】:

    刚刚找到解决方案。使用Row.mkString 而不是Row.toString 解决了我的问题。

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 2019-08-16
      • 2021-10-23
      • 2020-01-21
      • 1970-01-01
      • 1970-01-01
      • 2021-08-09
      • 2017-05-04
      • 2018-12-05
      相关资源
      最近更新 更多