【发布时间】:2015-06-15 14:24:03
【问题描述】:
我正在尝试使用来自 HDFS 的文件运行 flink 作业。我创建了如下数据集 -
DataSource<Tuple2<LongWritable, Text>> visits = env.readHadoopFile(new TextInputFormat(), LongWritable.class,Text.class, Config.pathToVisits());
我正在使用 flink 的最新版本 - 0.9.0-milestone-1-hadoop1 (我也尝试过 0.9.0-milestone-1)
而我的 Hadoop 版本是 2.6.0
但是,当我尝试执行作业时出现以下异常。找了类似的问题,和客户端和hdfs版本不兼容有关。
Exception in thread "main" org.apache.hadoop.ipc.RemoteException: Server IPC version 9 cannot communicate with client version 4
at org.apache.hadoop.ipc.Client.call(Client.java:1113)
at org.apache.hadoop.ipc.RPC$Invoker.invoke(RPC.java:229)
at com.sun.proxy.$Proxy5.getProtocolVersion(Unknown Source)
at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
您能否告诉我应该在我的 pom 中进行哪些更改,以便它指向正确的 Hadoop/HDFS 版本?或其他地方的变化? 或者我需要降级hadoop安装?
【问题讨论】:
标签: maven hadoop apache-flink