【问题标题】:Apply Pig UDF on single column and automatically generate all other columns在单列上应用 Pig UDF 并自动生成所有其他列
【发布时间】:2015-05-28 15:58:07
【问题描述】:

我有一个 Pig UDF,可以在我的管道分隔数据文件中将 Ebcidic 字符转换为 ASCII。 我有数百列,我希望我的 UDF 应用于第 70 列。 如何在该特定列上应用 UDF 并将列数据替换为数据集中的 ASCII。

REGISTER pigudf-0.0.1.jar;
DEFINE Ebc2Asc com.z.pig.udf.Ebc2Asc;

A = LOAD '/user/T4/cobDump.txt' USING PigStorage('|');
B = FOREACH A GENERATE Ebc2Asc($71) as txt:chararray;
DUMP B;

如果我们像上面那样调用脚本,我只会得到转换后的列作为结果的一部分。如何获取所有列以及应用的 udf 列。

任何帮助表示赞赏。

【问题讨论】:

    标签: java hadoop apache-pig udf


    【解决方案1】:

    已经有一段时间了,但听起来您想使用range projection 来自动生成其他列。它应该类似于:

    B = FOREACH A GENERATE $0 .. $70, Ebc2Asc($71) as txt:chararray, $72 .. ;
    

    【讨论】:

    • 谢谢,这就是我要找的。​​span>
    猜你喜欢
    • 1970-01-01
    • 2021-06-10
    • 1970-01-01
    • 2017-10-23
    • 1970-01-01
    • 2020-02-02
    • 2018-08-27
    • 2014-02-10
    • 1970-01-01
    相关资源
    最近更新 更多