【问题标题】:How to start Datanode? (Cannot find start-dfs.sh script)如何启动Datanode? (找不到 start-dfs.sh 脚本)
【发布时间】:2016-02-08 00:37:12
【问题描述】:

我们正在无头系统上设置自动部署:因此这里不能选择使用 GUI。

Hortonworks Data Platform 中 hdfs 的 start-dfs.sh 脚本在哪里? CDH/cloudera 将这些文件打包在 hadoop/sbin 目录下。然而,当我们在 HDP 下搜索这些脚本时,却找不到它们:

$ pwd
/usr/hdp/current

HDP 中存在哪些脚本?

[stack@s1-639016 current]$ find -L . -name \*.sh
./hadoop-hdfs-client/sbin/refresh-namenodes.sh
./hadoop-hdfs-client/sbin/distribute-exclude.sh
./hadoop-hdfs-datanode/sbin/refresh-namenodes.sh
./hadoop-hdfs-datanode/sbin/distribute-exclude.sh
./hadoop-hdfs-nfs3/sbin/refresh-namenodes.sh
./hadoop-hdfs-nfs3/sbin/distribute-exclude.sh
./hadoop-hdfs-secondarynamenode/sbin/refresh-namenodes.sh
./hadoop-hdfs-secondarynamenode/sbin/distribute-exclude.sh
./hadoop-hdfs-namenode/sbin/refresh-namenodes.sh
./hadoop-hdfs-namenode/sbin/distribute-exclude.sh
./hadoop-hdfs-journalnode/sbin/refresh-namenodes.sh
./hadoop-hdfs-journalnode/sbin/distribute-exclude.sh
./hadoop-hdfs-portmap/sbin/refresh-namenodes.sh
./hadoop-hdfs-portmap/sbin/distribute-exclude.sh
./hadoop-client/sbin/hadoop-daemon.sh
./hadoop-client/sbin/slaves.sh
./hadoop-client/sbin/hadoop-daemons.sh
./hadoop-client/etc/hadoop/hadoop-env.sh
./hadoop-client/etc/hadoop/kms-env.sh
./hadoop-client/etc/hadoop/mapred-env.sh
./hadoop-client/conf/hadoop-env.sh
./hadoop-client/conf/kms-env.sh
./hadoop-client/conf/mapred-env.sh
./hadoop-client/libexec/kms-config.sh
./hadoop-client/libexec/init-hdfs.sh
./hadoop-client/libexec/hadoop-layout.sh
./hadoop-client/libexec/hadoop-config.sh
./hadoop-client/libexec/hdfs-config.sh
./zookeeper-client/conf/zookeeper-env.sh
./zookeeper-client/bin/zkCli.sh
./zookeeper-client/bin/zkCleanup.sh
./zookeeper-client/bin/zkServer-initialize.sh
./zookeeper-client/bin/zkEnv.sh
./zookeeper-client/bin/zkServer.sh

注意:有零启动/停止 sh 脚本..

我对启动 namenode(s)、journalnode 和 datanodes 的 start-dfs.sh 脚本特别感兴趣。

【问题讨论】:

    标签: hadoop hortonworks-data-platform


    【解决方案1】:

    如何启动DataNode

    su - hdfs -c "/usr/lib/hadoop/bin/hadoop-daemon.sh --config /etc/hadoop/conf start datanode";

    Github - Hortonworks Start Scripts

    更新

    决定自己去找。

    1. 使用 Ambari 启动单个节点,安装 HDP 2.2 (a)、HDP 2.3 (b)
    2. sudo find / -name \*.sh | grep start
    3. 找到

      (a)/usr/hdp/2.2.8.0-3150/hadoop/src/hadoop-hdfs-project/hadoop-hdfs/src/main/bin/s‌​tart-dfs.sh

      奇怪的是它在/usr/hdp/current 中不存在,应该是符号链接的。

      (b)/hadoop/yarn/local/filecache/10/mapreduce.tar.gz/hadoop/sbin/start-dfs.sh

    【讨论】:

    • 您提供的链接是一个沙盒的启动脚本,它 (a) 不包含在 hdp 发行版中 (b) 不适合 HA 并且 (c) 包含映射的东西(我只想要dfs) .
    • 1) ./hadoop-client/sbin/hadoop-daemon.sh 2) 您的问题没有指定 HA
    • hadoop-daemon.sh 不是 dfs 的启动脚本,但仅适用于单个 hdfs 进程。我已经在手动使用它了——这个问题的重点是获得一个经过批准的“自包含脚本”来启动 hdfs。
    • 这个问题的答案真的取决于你如何安装 Hadoop,但是the wiki 说这些脚本位于$HADOOP_INSTALL/hadoop/bin
    • 自 1.0 以来它们不再存在,也不再存在。他们在 2012 年左右被转移到 sbin。但现在他们甚至不在 sbin 中。
    【解决方案2】:

    管理您的 hadoop 集群的推荐方法是通过管理员面板。由于您正在开发 Hotronworks 发行版,因此使用 Ambari 更有意义。

    【讨论】:

    • 我们正在无头系统上设置自动化部署 - 因此 GUI 不是一个选项。我会更新 OP。
    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2018-08-01
    • 2019-02-03
    • 2016-02-15
    • 1970-01-01
    • 1970-01-01
    • 2022-07-18
    相关资源
    最近更新 更多