【问题标题】:How to configure hbase in spark?如何在 spark 中配置 hbase?
【发布时间】:2014-09-03 19:35:53
【问题描述】:

spark连接hbase的步骤是什么?

我有两者的主地址。我只是将 hbase 地址添加到 spark 类路径中吗?

【问题讨论】:

    标签: hbase apache-spark


    【解决方案1】:

    这篇关于连接 Spark 和 HBase 的帖子应该会有所帮助:http://www.vidyasource.com/blog/Programming/Scala/Java/Data/Hadoop/Analytics/2014/01/25/lighting-a-spark-with-hbase

    我只是将 hbase 地址添加到 spark 类路径中吗?

    没有。实际上,您应该将 hbase 配置文件放在 spark 类路径中。如果没有,你应该在你的代码中设置它们,例如:

        Configuration hConf = HBaseConfiguration.create(conf);
        hConf.set("hbase.zookeeper.quorum", "PDHadoop1.corp.CompanyName.com,PDHadoop2.corp.CompanyName.com");
        hConf.setInt("hbase.zookeeper.property.clientPort", 10000);
    

    【讨论】:

    • 你能告诉我如何将 hbase 配置文件放在 spark 类路径上吗?是这样吗 - export SPARK_CLASSPATH = /path/to/hbase/conf ?
    • 是的。但它只在驱动程序中使用。你可以阅读上面的帖子。它在代码中读取 hbase-site.xml。
    • 谢谢!但现在我得到一个错误: java.lang.NoSuchMethodError: org.apache.hadoop.net.NetUtils.getInputStream(Ljava/net/Socket;)Ljava/io/InputStream;在 org.apache.hadoop.hbase.ipc.HBaseClient$Connection.setupIOstreams(HBaseClient.java:437)
    • 看起来您的 hbase 客户端库与您的 hadoop 不兼容。您可能需要为您的 hadoop 使用兼容的 hbase。
    • 你知道如何找到哪个版本的hbase与哪个版本的hadoop兼容吗?
    猜你喜欢
    • 2017-09-13
    • 2016-05-27
    • 1970-01-01
    • 2018-07-01
    • 1970-01-01
    • 2015-03-13
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多