【问题标题】:Can Hbase use local file system instead of DFS for distributed mode?Hbase可以使用本地文件系统而不是DFS进行分布式模式吗?
【发布时间】:2013-05-11 04:22:54
【问题描述】:

我有独立模式下的工作 hbase 实例。 我计划将其迁移到分布式模式(3 台机器的集群)。 我的问题是我可以从独立模式迁移到分布式而不丢失独立模式的数据吗? 也有必要在分布式模式下使用HDFS吗?

【问题讨论】:

    标签: hadoop hbase


    【解决方案1】:

    (H)采用(D)分布式(F)ile(S)系统。这是促进分布式 Hbase 的东西。如果您使用本机 FS,它将不再分发。所以,这不是一个选择。分布式意味着存储(连同计算)分布在所有参与的机器上,这与本机 FS 所做的相反。

    谈到你的第一个问题,你可以这样做。从独立模式迁移到分布式模式应该只是从本地磁盘复制到 HDFS 的问题。自己确认这一点并不难。确保首先正确设置了 Hadoop 集群。将您的 Hbase 数据备份作为预防措施。

    【讨论】:

    • 感谢 Tariq .. 所以我在独立模式下关注 hbase-site.xml hbase.rootdirfile:///home/vimal/ HBASE/hbase 和更新的伪分布式模式的 hbase-site.xml 是 hbase.rootdirhdfs://localhost:8020/hbase value> 所以现在,我应该将所有文件从“file:///home/vimal/HBASE/hbase”复制到“hdfs://localhost:8020/hbase”。我对吗 ?你是怎样做的 ?对不起,如果这是个愚蠢的问题。我是 hbase 和 hadoop 的新手。
    • 是的 Vimal。你说的对。正如@Arnon 先生所说,您可以使用 distcp 来做到这一点。如果您的数据不是太大,甚至“bin/hadoop fs -put /src /dst”也可以。
    • 嗨 Tariq .. 我尝试使用“hadoop fs -put file:///home/vimal/HBASE/hbase hdfs://localhost:8020/hbase”,但它无声运行并且没有复制数据符合预期。
    【解决方案2】:

    正如 Tariq 所说,您需要一个分布式 FS 才能使 HBase 工作。关于复制您的数据,您可以尝试distcp

    【讨论】:

    • 嗨 Arnon 先生,我尝试使用 distcp 使用以下命令:- hadoop distcp file:///home/vimal/HBASE/hbase hdfs://localhost:8020/hbase 其中第一个参数是我的数据独立模式下的源,第二个是伪分布式模式下的数据源,但我遇到以下异常:-复制失败:java.net.ConnectException:调用 localhost/127.0.0.1:8021 连接异常失败:java.net。 ConnectException:连接被拒绝是因为 hbase 在独立模式下关闭,因为我正在同一台机器上从独立模式迁移到伪分布式模式?
    • 如果你在同一台机器上做所有事情,我想你最好的选择是将 hbase 文件夹从 HDFS 复制到独立的常规操作系统(hadoop fs -get 或 -copyToLocal),并且然后设置分布式环境并将数据复制回来(hadoop fs -put 或 copyFromLocal)
    • 嗨 Arnon Sir,在独立模式下,我没有使用 HDFS,所以我所有的数据都在常规操作系统文件中。现在在同一台机器上,我正在从独立模式更改为伪分布式模式。所以我需要将这些常规 os 文件导入 HDFS 文件,对吗?我怎么做 ?我尝试了 distcp 和 hadoop fs -put 但正如我上面所说,它们不工作。请告诉我我在某个地方错了..
    • 正如我所说,您可以使用 hadoop fs -copyFromLocal 将文件复制到 HDFS
    • 您好,Arnon 先生,我已按照您的指示进行操作。我使用 hadoop fs -copyFromLocal /home/vimal/HbaseData/hbase/ hdfs://localhost:9000/hbase/ 将文件从独立模式复制到 HDFS,其中第一个参数是独立模式下的 hbase.rootdir,第二个参数是 hbase.rootdir伪分布式模式。文件被正确复制,我使用 hadoop fs -ls /hbase 验证了它,它工作正常。但是,我无法看到我在独立模式下创建的伪分布式表。可能是什么原因 ?感谢您对我的包容。
    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2020-04-08
    • 2020-05-21
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多