OSX - 无法将文件从本地文件系统复制到 hdfs答案

【问题标题】：OSX - Unable to copy files from local file system to hdfsOSX - 无法将文件从本地文件系统复制到 hdfs
【发布时间】：2013-10-09 02:14:52
【问题描述】：

我正在尝试将文件从本地文件系统复制到 HDFS，它会抛出一个错误，表明该文件只能复制到 0 个节点而不是 1 个节点。

ckharide-mac:bin hadoop$ ./hadoop dfs -copyFromLocal /tmp/wcinput /user/hadoop/app/input
13/10/01 13:25:05 WARN hdfs.DFSClient: DataStreamer Exception: org.apache.hadoop.ipc.RemoteException: java.io.IOException: File /user/hadoop/app/input/LICENSE.txt could only be replicated to 0 nodes, instead of 1
    at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.getAdditionalBlock(FSNamesystem.java:1920)
    at org.apache.hadoop.hdfs.server.namenode.NameNode.addBlock(NameNode.java:783)
    at sun.reflect.GeneratedMethodAccessor6.invoke(Unknown Source)
    at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:25)
    at java.lang.reflect.Method.invoke(Method.java:597)
    at org.apache.hadoop.ipc.RPC$Server.call(RPC.java:587)
    at org.apache.hadoop.ipc.Server$Handler$1.run(Server.java:1432)
    at org.apache.hadoop.ipc.Server$Handler$1.run(Server.java:1428)
    at java.security.AccessController.doPrivileged(Native Method)
    at javax.security.auth.Subject.doAs(Subject.java:396)
    at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1190)
    at org.apache.hadoop.ipc.Server$Handler.run(Server.java:1426)

虽然我能够创建目录，但无法复制文件。我已尝试重新格式化名称节点并停止/启动 hadoop 服务，但问题仍然存在。

感谢任何帮助。

【问题讨论】：

标签： macos hadoop

【解决方案1】：

你可以做的一些事情：

重新格式化：$HADOOP_HOME/bin/hadoop namenode -format
检查系统偏好设置->共享->远程登录已激活？
重启 hadoop $HADOOP_HOME/bin/stop-all.sh 然后$HADOOP_HOME/bin/start-all.sh

前几天我在 Mac 上遇到了同样的问题，以上步骤至少帮助了我...

【讨论】：

【解决方案2】：

感谢修复它，HDFS 上没有任何空间，只有当我们将文件从本地文件系统移动到 HDFS 时才会被识别。一旦我解决了我做了一个格式并遵循了 hadopp 服务的启动，它就起作用了。

【讨论】：

【解决方案3】：

请确保您的 DataNode 已启动并正常运行。如果它们正在运行，它们就能够与 NameNode 对话。

另外，请确保您有足够的空间将文件存储在 HDFS 中。

【讨论】：