【问题标题】:Compress output of Hadoop Archive tool压缩 Hadoop Archive 工具的输出
【发布时间】:2016-11-06 00:16:24
【问题描述】:

我正在使用Hadoop Archive 来减少我的 Hadoop 集群中的文件数量,但为了保留数据,我希望尽可能长时间地保留我的数据。那么问题是Hadoop Archive没有减少文件夹大小(我的文件夹有多种类型的文件,小文件和大文件,那么不适合使用Sequence File)。

我使用了-D mapreduce.compress.map.output=true -D mapred.map.ouput.compress.codec=org.apache.hadoop.io.compress.GzipCodec 之类的选项,但它不起作用。

有谁知道压缩 Hadoop 存档输出的方法,或者建议我以某种方式实现这两个目标(压缩大小和减少文件数量)。

感谢任何信息。非常感谢。

【问题讨论】:

    标签: hadoop hadoop-yarn hadoop-archive bigdata


    【解决方案1】:

    您可以使用 mapred compress 并在压缩目录上运行 har

    【讨论】:

    • 你能提供更多细节吗?在运行 har 之前使用另一个 map-reduce 作业会破坏原始目录结构。
    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2010-11-04
    • 2010-10-30
    • 1970-01-01
    相关资源
    最近更新 更多