【发布时间】:2023-03-22 07:48:01
【问题描述】:
我在 azure 中有两个集群,一个用于 spark 2.0,另一个用于 hbase。我可以完美地填充和使用 hbase,现在我想将 spark 连接到 hbase 并进行一些计算。我想使用 python,因为我不知道 scala。
我的第一个问题是:最好的方法是什么? spark -> hive -> hbase 还是 spark 直接到 hbase?
我能有一个很好的插入和查询示例吗?
谢谢?
【问题讨论】:
-
我不知道你为什么要通过蜂巢。 Spark Hbase 连接器有问题?
-
没有错。我的问题是我找不到带有好例子的python连接器。也许我在谷歌上搜索的日子不好
-
是的,我只找到了 scala 示例。不过有 hbase python 库,所以我假设你只需要 spark 的并行性
-
好吧,也许现在是学习 scala 的好时机。你怎么看?
-
哈。 spark api 真的很容易翻译。如果您了解 java 并了解 python 函数式编程,那么它是一门不错的语言。几个月前我开始自学
标签: python apache-spark hbase pyspark