【问题标题】:Overlap between Hadoop InputSplits?Hadoop InputSplits之间的重叠?
【发布时间】:2013-04-20 03:18:16
【问题描述】:

我正在制作一项 Hadoop 作业,用于对一个或多个可能非常大的 PGM 文件进行卷积。每个映射器将处理其中一个文件中的一些行,而减速器将再次将文件重新组合在一起。但是,每个映射器都需要在它进行卷积的上面和下面几行。通常这不是问题,因为我已经制作了一个 RecordReader 来获得这种冗余,但它对 InputSplit 的第一行和最后一行提出了问题,因为我无法访问上次拆分的行。

有什么办法可以让 InputSplits 重叠,这样第一行的最后几行就是第二行的前几行?

【问题讨论】:

  • 我想这将涉及制作你自己的InputFormat,不能提供更多,但我很感兴趣。

标签: image image-processing hadoop


【解决方案1】:

您可以编写自己的自定义拆分器。请参阅 Steven Lewis 的 this post

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2014-11-07
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多