【问题标题】:How to connect from pyspark to hbase如何从 pyspark 连接到 hbase
【发布时间】:2023-03-22 07:48:01
【问题描述】:

我在 azure 中有两个集群,一个用于 spark 2.0,另一个用于 hbase。我可以完美地填充和使用 hbase,现在我想将 spark 连接到 hbase 并进行一些计算。我想使用 python,因为我不知道 scala。

我的第一个问题是:最好的方法是什么? spark -> hive -> hbase 还是 spark 直接到 hbase?

我能有一个很好的插入和查询示例吗?

谢谢?

【问题讨论】:

  • 我不知道你为什么要通过蜂巢。 Spark Hbase 连接器有问题?
  • 没有错。我的问题是我找不到带有好例子的python连接器。也许我在谷歌上搜索的日子不好
  • 是的,我只找到了 scala 示例。不过有 hbase python 库,所以我假设你只需要 spark 的并行性
  • 好吧,也许现在是学习 scala 的好时机。你怎么看?
  • 哈。 spark api 真的很容易翻译。如果您了解 java 并了解 python 函数式编程,那么它是一门不错的语言。几个月前我开始自学

标签: python apache-spark hbase pyspark


【解决方案1】:

如果您对通过 Spark-to-HBase 连接器直接使用 Spark 到 HBase 很满意,Zhan Zhang 在http://hortonworks.com/blog/spark-hbase-dataframe-based-hbase-connector/ 有一篇很好的博文提供示例。

HTH!

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 2017-03-06
    • 2020-02-04
    • 2014-12-04
    • 1970-01-01
    • 1970-01-01
    • 2012-06-10
    • 2016-06-08
    相关资源
    最近更新 更多