【问题标题】:Scalding: Ouptut schema from pipe operation烫伤:管道操作的输出模式
【发布时间】:2014-12-16 03:24:58
【问题描述】:

我正在通过烫伤、聚合某些字段以及通过 TSV 写入制表符分隔的文件来读取 HDFS 上的文件。如何写出包含输出文件架构的文件?例如,

UnpackedAvroSource(args("input"))
  .project('key, 'var1)
  .groupBy('key){_.sum[Long]('var1 -> var1sum))}
  .write(Tsv(args("output")))

我想编写一个包含“Key, var1sum”的输出文本文件,以便稍后拿起我的 ooutput 文件的人知道这些列。我假设烫伤不会将它嵌入到文件中的某个地方?

谢谢。

【问题讨论】:

    标签: scala hadoop scalding


    【解决方案1】:

    刚刚找到选项 writeHeader = true ,它将列名写入输出文件,无需写入文件。

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 2014-06-19
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2016-05-22
      相关资源
      最近更新 更多