mapreduce如何自定义reduce输出的文件名

  1. 跟随源码找到设置输出文件的方法
    org.apache.hadoop.mapreduce.lib.output.FileOutputFormat.getDefaultWorkFile(TaskAttemptContext, String)

    mapreduce如何自定义reduce输出的文件名
    继续跟进这个方法
    org.apache.hadoop.mapreduce.lib.output.FileOutputFormat<K, V>

    mapreduce如何自定义reduce输出的文件名
  2. 发现是使用此方法返回的文件路径,我们只需要自定义一个类继承TextOutputFormat,然后重写getDefaultWorkFile(job, extension)方法,如下
    mapreduce如何自定义reduce输出的文件名
    在job中设置自定义输出类
    mapreduce如何自定义reduce输出的文件名
  3. 效果
    mapreduce如何自定义reduce输出的文件名

相关文章:

  • 2021-09-05
  • 2021-10-10
  • 2022-12-23
  • 2022-01-15
  • 2022-12-23
  • 2022-01-01
  • 2021-12-08
猜你喜欢
  • 2021-08-14
  • 2022-02-27
  • 2022-12-23
  • 2022-12-23
  • 2021-12-25
  • 2021-08-10
相关资源
相似解决方案