Hive：解决非 equi left join

Question

Hive 不支持非 equi 连接：常见的解决方法是将连接条件移动到 where 子句，当您需要内部连接时它可以正常工作。但是左连接呢？

人为的例子。假设我们有一个 orderLineItem 表，我们需要加入一个 ProductPrice 表，该表具有产品 ID、价格和价格适用的日期范围。我们想加入这个，其中 ProductID=ProductID & OrderDate 在开始日期和结束日期之间。如果 productID 或有效日期范围不匹配，我仍然希望查看所有 orderLineItems。

这个 SQL 小提琴是我们如何在 MSSQL 中执行此操作的一个示例： http://sqlfiddle.com/#!6/fb877/7

问题 如果我应用典型的解决方法，并将非 equi 过滤器移动到 where 子句，它就会变成内部连接。在上述情况下，在 sql fiddle & 下面，我有一个不在查找中的产品 ID。

问题： 如果 hive 不支持非 eqi-joins，如何实现左非 eqi？

[SQLFiddle 内容]

表格：

CREATE TABLE OrderLineItem(
  LineItemIDId int IDENTITY(1,1),
  OrderID int  NOT NULL,
  ProductID int NOT NULL,
  OrderDate Date
);


CREATE TABLE ProductPrice(
  ProductID int,
  Cost float,
  startDate  Date,
  EndDate  Date


);

加载数据以及我们如何加入 MSSQL：

--Old Price. Should be ignored
INSERT INTO ProductPrice(ProductID, COST,startDate,EndDate) VALUES  (1, 50,'12/1/2012','1/1/2013');
INSERT INTO ProductPrice(ProductID, COST,startDate,EndDate) VALUES (2, 55,'12/1/2012','1/1/2013');

--Price for Order 2. Should be applied to Order 1
INSERT INTO ProductPrice (ProductID, COST,startDate,EndDate) VALUES(1, 20,'12/1/2013','1/1/2014');
INSERT INTO ProductPrice (ProductID, COST,startDate,EndDate) VALUES(2, 25,'12/1/2013','1/1/2014');

--Price for Order 2. Should be applied to Order 2
INSERT INTO ProductPrice (ProductID, COST,startDate,EndDate) VALUES(1, 15,'1/2/2014','3/1/2014');
INSERT INTO ProductPrice (ProductID, COST,startDate,EndDate) VALUES(2, 20,'1/2/2014','3/1/2014');


--January 1st 2014 Order
INSERT INTO OrderLineItem(OrderID,ProductID,OrderDate) VALUES (1, 1,'1/1/2014') ;
INSERT INTO OrderLineItem(OrderID,ProductID,OrderDate) VALUES (1, 2,'1/1/2014');

--Feb 1st 2014 Order
INSERT INTO OrderLineItem(OrderID,ProductID,OrderDate) VALUES (2, 1,'2/1/2014');
INSERT INTO OrderLineItem (OrderID,ProductID,OrderDate) VALUES(2, 2,'2/1/2014');
INSERT INTO OrderLineItem (OrderID,ProductID,OrderDate) VALUES(2, 3,'2/1/2014'); -- no price

SELECT * FROM OrderLineItem;

SELECT * FROM OrderLineItem li LEFT OUTER JOIN  ProductPrice p on
p.ProductID=li.ProductID AND  OrderDate BETWEEN  startDate AND  EndDate;

Answer 1

不确定是否可以避免使用双重连接：

SELECT * 
FROM OrderLineItem li 
LEFT OUTER JOIN  (
  SELECT p.*
  FROM ProductPrice p
  JOIN OrderLineItem li 
  ON p.ProductID=li.ProductID 
  WHERE OrderDate BETWEEN StartDate AND EndDate ) p
ON p.ProductId = li.ProductID
WHERE StartDate IS NULL OR 
  OrderDate BETWEEN StartDate AND EndDate;

这样，如果存在匹配且 StartDate 不为空，则必须存在有效​​的开始/结束日期匹配。

Answer 2

1. 使用添加的序列行号创建左表的副本：

   CREATE TABLE OrderLineItem_serial AS
   SELECT ROW_NUMBER() OVER() AS serial, * FROM OrderLineItem;
   

   备注：这可能对某些表格格式更有效（必须是 WITHOUT COMPRESSION）：

   CONCAT(INPUT__FILE__NAME, BLOCK__OFFSET__INSIDE__FILE) AS serial
   

2. 做一个内连接：

   CREATE TABLE OrderLineItem_inner AS
   SELECT * FROM OrderLineItem_serial li JOIN ProductPrice p
   on p.ProductID = li.ProductID WHERE OrderDate BETWEEN startDate AND EndDate;
   

3. 序列号左连接：

   SELECT * FROM OrderLineItem_serial li
   LEFT OUTER JOIN OrderLineItem_inner i on li.serial = i.serial;
   

Answer 3

Hive 0.10 支持交叉连接，因此您可以在 WHERE 子句中处理所有“theta join”（非等连接）条件。

Answer 4

为什么不使用单独允许 NULL 情况的 WHERE 子句？

SELECT * FROM OrderLineItem li 
LEFT OUTER JOIN  ProductPrice p 
ON p.ProductID=li.ProductID 
WHERE ( StartDate IS NULL OR OrderDate BETWEEN startDate AND EndDate);

这应该处理它 - 如果左连接匹配，它将使用日期逻辑，如果不匹配，它将保持 NULL 值不变，因为左连接应该。