【问题标题】:Union of Streaming Dataframe and Batch Dataframe in Spark Structured StreamingSpark Structured Streaming 中 Streaming Dataframe 和 Batch Dataframe 的联合
【发布时间】:2017-09-21 06:15:07
【问题描述】:

如何在 Spark Structured Streaming 中将流数据帧和批处理数据帧组合在一起?

【问题讨论】:

  • “join”中的“combine”,或“union”中的“combine”?

标签: apache-spark spark-structured-streaming


【解决方案1】:

你可以正常加入:

val stream = spark.readStream(....)
val batch = spark.read....

val joinSandB = stream.join(batch, "someColumn")

documentation中查看更多信息

【讨论】:

    猜你喜欢
    • 2018-12-01
    • 2020-03-19
    • 1970-01-01
    • 2021-03-06
    • 2020-09-12
    • 2017-04-22
    • 2021-12-28
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多