让Java程序能够识别Hadoop的hdfs URL方案需要一些额外的工作,采用的方法是通过FsUrlStreamHandlerFactory实例调用java.net.URL对象的setURLStreamHandlerFactory方法。每个Java虚拟机只能调用一次这个方法,因此通常在静态方法中调用。

 

程序如下:

package com.lcy.hadoop.file;

import java.io.InputStream;
import java.net.URL;
import org.apache.hadoop.fs.FsUrlStreamHandlerFactory;
import org.apache.hadoop.io.IOUtils;

public class URLCat {
static{ URL.setURLStreamHandlerFactory(new FsUrlStreamHandlerFactory()); }
public static void main(String[] args) throws Exception { // TODO Auto-generated method stub InputStream in=null; try{ in=new URL(args[0]).openStream(); IOUtils.copyBytes(in, System.out, 4096,false); }finally{ IOUtils.closeStream(in); } } }

 

运行示例:

通过Hadoop URL读取数据

相关文章:

  • 2021-09-12
  • 2021-06-09
  • 2022-12-23
  • 2022-12-23
  • 2021-05-24
  • 2021-06-03
  • 2022-12-23
  • 2022-12-23
猜你喜欢
  • 2021-08-24
  • 2022-12-23
  • 2021-05-23
  • 2022-12-23
  • 2022-01-24
  • 2022-12-23
  • 2022-12-23
相关资源
相似解决方案