如何从正在运行的 Hadoop 集群中删除磁盘？

Question

我有一个安装了 HDP 2.3 的 6 节点 Hadoop 集群。

节点由 2 个驱动器组成，一个是 50 TB，另一个是 2 TB，现在 2 TB 的磁盘已满。但我想从所有节点中删除这个磁盘，只想为 Hadoop 使用 50 TB 磁盘。

问题

我能否安全地移除数据磁盘而不会导致集群上的块丢失/损坏。

更新

mount 命令的输出如下

/dev/sda6 on / type ext4 (rw)
proc on /proc type proc (rw)
sysfs on /sys type sysfs (rw)
devpts on /dev/pts type devpts (rw,gid=5,mode=620)
tmpfs on /dev/shm type tmpfs (rw)
/dev/sda3 on /boot type ext4 (rw)
none on /proc/sys/fs/binfmt_misc type binfmt_misc (rw)
/tmp on /tmp type none (rw,bind)
/var/tmp on /var/tmp type none (rw,bind)
/home on /home type none (rw,bind)
sunrpc on /var/lib/nfs/rpc_pipefs type rpc_pipefs (rw)
/dev/sdc1 on /data1 type xfs (rw)
/dev/sdb1 on /data type xfs (rw)

属性 dfs.datanode.data.dir 的值为 /data/hadoop/hdfs/data,/data1/hadoop/hdfs/data

Answer 1

您不能使用 2 TB 驱动器，因为 NameNode 元数据可能会损坏。 Namenode 将等待来自该节点的出块报告，如果没有报告出块报告形式的数据块，将接近离开安全模式。

一种解决方法是您可以将所有数据复制到 50 TB 驱动器并格式化 Namenode。您不能在数据敏感的情况下执行此操作。