Spark Streaming：java.io.FileNotFoundException：文件不存在：<input_filename>._COPYING_答案

【问题标题】：Spark Streaming: java.io.FileNotFoundException: File does not exist: <input_filename>._COPYING_Spark Streaming：java.io.FileNotFoundException：文件不存在：<input_filename>._COPYING_
【发布时间】：2016-06-09 04:49:02
【问题描述】：

我正在编写一个从 HDFS 读取输入的 spark 流应用程序。我将 spark 应用程序提交给 yarn，然后运行一个脚本，将数据从本地 fs 复制到 HDFS。

但 Spark 应用程序开始抛出 fileNotFoundException。我相信这种情况正在发生，因为 spark 在文件被完全复制到 HDFS 之前正在拾取文件。

以下是异常跟踪的部分内容：

java.io.FileNotFoundException: File does not exist: <filename>._COPYING_
        at org.apache.hadoop.hdfs.server.namenode.INodeFile.valueOf(INodeFile.java:66)
        at org.apache.hadoop.hdfs.server.namenode.INodeFile.valueOf(INodeFile.java:56)
        at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.getBlockLocationsUpdateTimes(FSNamesystem.java:1932)
        at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.getBlockLocationsInt(FSNamesystem.java:1873)
        at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.getBlockLocations(FSNamesystem.java:1853)
        at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.getBlockLocations(FSNamesystem.java:1825)
        at org.apache.hadoop.hdfs.server.namenode.NameNodeRpcServer.getBlockLocations(NameNodeRpcServer.java:559)
        at org.apache.hadoop.hdfs.server.namenode.AuthorizationProviderProxyClientProtocol.getBlockLocations(AuthorizationProviderProxyClientProtocol.java:87)
        at org.apache.hadoop.hdfs.protocolPB.ClientNamenodeProtocolServerSideTranslatorPB.getBlockLocations(ClientNamenodeProtocolServerSideTranslatorPB.java:363)
        at org.apache.hadoop.hdfs.protocol.proto.ClientNamenodeProtocolProtos$ClientNamenodeProtocol$2.callBlockingMethod(ClientNamenodeProtocolProtos.java)
        at org.apache.hadoop.ipc.ProtobufRpcEngine$Server$ProtoBufRpcInvoker.call(ProtobufRpcEngine.java:619)
        at org.apache.hadoop.ipc.RPC$Server.call(RPC.java:1060)
        at org.apache.hadoop.ipc.Server$Handler$1.run(Server.java:2044)
        at org.apache.hadoop.ipc.Server$Handler$1.run(Server.java:2040)
        at java.security.AccessController.doPrivileged(Native Method)
        at javax.security.auth.Subject.doAs(Subject.java:415)
        at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1671)
        at org.apache.hadoop.ipc.Server$Handler.run(Server.java:2038)

        at sun.reflect.NativeConstructorAccessorImpl.newInstance0(Native Method)
        at sun.reflect.NativeConstructorAccessorImpl.newInstance(NativeConstructorAccessorImpl.java:57)
        at sun.reflect.DelegatingConstructorAccessorImpl.newInstance(DelegatingConstructorAccessorImpl.java:45)
        at java.lang.reflect.Constructor.newInstance(Constructor.java:526)
        at org.apache.hadoop.ipc.RemoteException.instantiateException(RemoteException.java:106)
        at org.apache.hadoop.ipc.RemoteException.unwrapRemoteException(RemoteException.java:73)

任何建议如何解决这个问题？

谢谢

【问题讨论】：

issues.apache.org/jira/browse/SPARK-4314
这里的解决方案：stackoverflow.com/questions/42041110/…

标签： hadoop apache-spark hdfs spark-streaming

【解决方案1】：

您需要让您的数据生产者文件名与被复制的当前文件不同，与完全复制的文件不同。然后，您需要在文件 dstream 上添加过滤器，仅获取完全复制的文件。例如

持续复制文件前缀_copying*
完全复制文件前缀数据*

【讨论】：