【问题标题】:Apache Spark SQL read and write Cassandra TTLApache Spark SQL 读写 Cassandra TTL
【发布时间】:2020-05-25 14:07:13
【问题描述】:

spark sql如何用Dataframe(Spark Sql)读取apache cassandra data ttl。 我没有找到任何例子? 可以举个例子吗?

我之前的问题是关于 rdd 是否 Spark:Spark get ttl column from cassandra

但现在查询的是 Dataframe。

【问题讨论】:

    标签: apache-spark cassandra datastax-enterprise spark-cassandra-connector


    【解决方案1】:

    Spark Cassandra 连接器不支持 DataFrame API 中的 TTL 和 WriteTime。您可以跟踪JIRA SPARKC-528 的进度。

    您可以使用 RDD API 读取 TTL 和/或 WriteTime(最好使用 mapper to case class),然后转换为 DataFrame。

    2020 年 9 月更新:作为 SCC 2.5.0 release 的一部分发布了对数据帧的 TTL 和 WriteTime 的支持。

    【讨论】:

      猜你喜欢
      • 2018-12-10
      • 2022-07-27
      • 1970-01-01
      • 2021-12-24
      • 2020-06-14
      • 2015-05-10
      • 2016-09-15
      • 2018-12-03
      • 1970-01-01
      相关资源
      最近更新 更多