从 HIVE 表中获取最新的分区

Question

您好，我对此非常陌生。 我有三列 INTEGER 格式的 YEAR、MONTH、DAY。

我想加载脚本并将 YEAR、MONTH、DAY 组合为单列并获取最大值。

我试过了，

Load year,month,date from HIVE.`abc`.`abc1';
SELECT max(cast(year as String) || '_' || cast(month as string) || '_' || cast(day as string)) as result FROM HIVE.`abc`.`abc1';

通过这样做，我将得到 2020_5_21 的结果。但我应该使用分隔符并找到日期的最大值。

发生以下错误：连接器回复错误：SQL##f - SqlState: S1000, ErrorCode: 35, ErrorMsg: [Cloudera][Hardy] (35) 错误 来自服务器：错误代码：'1' 错误消息：'编译时出错 语句：失败：执行错误，返回代码 1 从 org.apache.hadoop.hive.ql.exec.tez.TezTask'。

我想在 WHERE 子句中使用结果。但我不知道声明。 SQL select * from HIVE.abc.`abc1' where ---- ;

请帮忙。

Answer 1

如果月份和日期存储为整数，如果是个位数的月份或日期，则需要使用 lpad() 加零。例如月份 5 应该变成 05。没有这个最大值可能无法正常工作。也可以使用破折号作为分隔符来获得兼容格式的日期。

max(concat(year,'-',lpad(month, 2,0),'-',lpad(day, 2,0)))

要在 WHERE 中使用它，请使用 WHERE date in (select max ...):

SELECT * from your_table
WHERE concat(year,'-',lpad(month, 2,0),'-',lpad(day, 2,0)) in (select max(concat(year,'-',lpad(month, 2,0),'-',lpad(day, 2,0))) from your_table)

此外，您可能需要在 sql 中的任何地方用反引号引用年、月、日等名称：

max(concat(`year`,'-',lpad(`month`, 2,0),'-',lpad(`day`, 2,0)))