【问题标题】:Spark cassandra connector Java API with Spark 2.0Spark cassandra 连接器 Java API 与 Spark 2.0
【发布时间】:2018-04-03 18:55:23
【问题描述】:

我正在使用带有 Spark 1.6.3 的 datastax spark cassandra 连接器。

是否可以在 Spark 2.0+ 中使用 Spark cassandra 连接器 Java API?

我看到spark-cassandra-connector-java_2.11的最新版本是1.6.0-M1。

有人知道连接器的 Java API 的未来吗?

谢谢,

【问题讨论】:

    标签: java apache-spark cassandra connector


    【解决方案1】:

    如果您运行的是 Spark 2.0-2.2,则可以使用来自 DataStax https://spark-packages.org/package/datastax/spark-cassandra-connector 的 Cassandra 连接器(它是用 Scala 编写的,但您可以只使用 jar)。

    查看官方 repo 中的兼容性表:https://github.com/datastax/spark-cassandra-connector#version-compatibility

    【讨论】:

    • 嗨,谢尔盖,感谢您的回答。我正在使用带有 spark-cassandra-connector-java_2.10 1.6.0-M2 的 Java API 作为最新的依赖项。因此,我受限于 Spark 1.6.3。我只在与 Spark 2.0+ 兼容的版本中寻找这个 jar,所以我可以升级到 Spark 2.0+。 Java API 的开发/支持似乎没有进行。我错过了什么吗?
    • 我不知道细节,但 DataStax 似乎放弃了spark-cassandra-connector-java
    • 我认为他们将 java jar 的内容合并到主连接器 jar 中。再次感谢!
    猜你喜欢
    • 2017-01-13
    • 1970-01-01
    • 1970-01-01
    • 2016-09-02
    • 2014-11-16
    • 1970-01-01
    • 1970-01-01
    • 2015-08-16
    • 2015-09-13
    相关资源
    最近更新 更多