【问题标题】:How to append ORC file如何附加 ORC 文件
【发布时间】:2015-11-29 06:25:21
【问题描述】:

我们有一个要求,我们需要添加 ORC 文件。我试图用谷歌搜索但没有结果。 org.apache.hadoop.hive.ql.io.orc.WriterImplORC 也没有附加 API。无论如何要附加ORC文件吗? (更具体地说,使用 JAVA)

【问题讨论】:

    标签: java hadoop hive orc


    【解决方案1】:

    ORC 数据文件被细分为独立的条纹;每个条带都在一个原子步骤中创建。详情请见the official documentation

    我不相信您可以即时直接附加到现有文件。这意味着在写入时发生作业崩溃时会留下损坏的条带(因此是损坏的文件)。

    但你可以

    • 创建一个新的 ORC 数据文件(其中将包含 1..N 个条带,具体取决于 每个reducer的实际数据量与orc.stripe.size属性)
    • 然后使用Hive V0.14 and above“连接”这些数据文件和现有文件

    【讨论】:

      猜你喜欢
      • 2016-12-12
      • 1970-01-01
      • 2018-10-07
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2020-03-02
      • 2020-09-18
      • 2017-06-26
      相关资源
      最近更新 更多