【发布时间】:2018-03-30 11:07:26
【问题描述】:
免责声明:以下解决方案
我有一组来自查询的记录,其中包含 (idx, time, category, weight, distance) 列:
-
idx是描述某种关系的INTEGER值 -
time是TIMESTAMP WITHOUT TIMEZONE,可以(几乎)采用任意值,但每个值都会出现多次(对于每个idx和category) -
category是VARCHAR和一个分类变量;它的价值是有限的,并且会经常重复发生 -
weight是DOUBLE PRECISION -
distance是一些预先计算的值
行可能如下所示:
(1, '2017-01-01 00:00', 'class_a', 1, 234.5)
(1, '2017-01-01 00:00', 'class_a', 1, 987.1)
(1, '2017-01-01 00:00', 'class_a', 1, 1.23)
(1, '2017-01-01 00:00', 'class_b', 1, 48.5)
(2, '2017-01-01 00:00', 'class_a', 1, 8763.5)
(1, '2017-01-01 00:13', 'class_a', 1, 598.02)
(1, '2017-01-01 00:13', 'class_b', 1, 76.9)
...
(2, '2017-01-27 21:07', 'class_b', 1, 184.0)
有什么问题?
我正在寻找一种解决方案来计算此类数据的自定义聚合,但我几乎找不到任何说明或示例说明这是如何实际完成的(希望无需编写 C 扩展postgres)。
SELECT
idx, time, category,
weighted_density(
value, distance, 10000.0 -- arbitrary 10k is explained below
) AS wd
FROM (my rows as shown above)
GROUP BY
idx, time, category
我觉得设置一个自定义聚合(这里命名为WEIGHTED_DENSITY)应该是实现类似于概述查询的正确方法。我的目标是最终得到一个结果集,其中复合 (idx, time, category) 是唯一的,并且其 wd 是使用相关行中的所有 weight 和 distance 值计算得出的。
免责声明:以下解决方案
到目前为止我尝试了什么?
首先,我从数据库中获取整个行并使用另一种程序和语言 (python)离线 计算聚合。但这是相当消耗资源的,应该在数据库服务器而不是本地机器上运行(也是为了确保完整性)。
然后,我尝试设置一个 postgres 函数来使用单行计算结果值:
CREATE OR REPLACE FUNCTION _gaussian_density(
IN DOUBLE PRECISION, -- the weight
IN DOUBLE PRECISION, -- the distance
IN DOUBLE PRECISION -- the maximum distance
) RETURNS DOUBLE PRECISION AS
$BODY$
BEGIN
-- calculate weighted density, using max distance;
-- this calculation itself doesn't really matter; it's some sort
-- of density using a cropped gaussian kernel, for those who ask.
RETURN
CASE
WHEN ABS($2) > ABS($3) THEN 0.0
WHEN ABS($2) <= 0.0 THEN 1.0
ELSE
$1 * (
1.0 / |/ (2.0 * PI())
) * POWER(EXP(-1 * (3.0 * ABS($2) / ABS($3))), 2)
/ 0.4
END;
END
$BODY$
LANGUAGE plpgsql VOLATILE
COST 10;
另外,为了使函数作为聚合可用,我尝试了
CREATE AGGREGATE weighted_density(DOUBLE PRECISION, DOUBLE PRECISION)
(
sfunc = _gaussian_density,
stype = DOUBLE PRECISION,
initcond = 0.0
);
但这就是我卡住的地方,我只是无法正确处理,似乎我需要一个示例或一点点提示,将我推向正确的方向,了解如何正确创建和使用自定义聚合的。
向你们干杯,并提前非常感谢!
解决方案
感谢@klin 指出我错过了携带聚合状态。现在,这终于奏效了:
CREATE FUNCTION _gaussian_density(
weight FLOAT8,
distance FLOAT8,
maxdist FLOAT8
)
RETURNS FLOAT8
IMMUTABLE
CALLED ON NULL INPUT
LANGUAGE plpgsql
AS $$
DECLARE
abs_weight FLOAT8;
abs_distance FLOAT8;
abs_maxdist FLOAT8;
dist_weight FLOAT8;
BEGIN
-- calculate weighted density, using max distance;
-- this calculation itself doesn't really matter; it's some sort
-- of density using a cropped gaussian kernel, for the curious
abs_weight := ABS(COALESCE(weight, 1.0));
abs_distance := ABS(COALESCE(distance, 0.0));
abs_maxdist := ABS(COALESCE(maxdist, 0.0));
IF abs_distance > abs_maxdist THEN RETURN 0.0; END IF;
IF abs_distance <= 0.0 THEN RETURN 1.0 * abs_weight; END IF;
RETURN abs_weight * (
1.0 / |/ (2.0 * PI())
) * POWER(EXP(-1 * (3.0 * abs_distance / abs_maxdist)), 2)
/ 0.4;
END;
$$;
CREATE FUNCTION _gaussian_statetransition(
agg_state FLOAT8, -- carry the state!
weight FLOAT8,
distance FLOAT8,
maxdist FLOAT8)
RETURNS FLOAT8
IMMUTABLE
LANGUAGE plpgsql
AS $$
BEGIN
RETURN
agg_state + _gaussian_density(weight, distance, maxdist);
END;
$$;
CREATE AGGREGATE weighted_density(FLOAT8, FLOAT8, FLOAT8)
(
sfunc = _gaussian_statetransition,
stype = FLOAT8,
initcond = 0
);
我希望仍然能够在聚合之外使用密度计算函数,因此我决定为状态转换添加另一个函数,该函数又使用函数_gaussian_density。
然后聚合定义状态类型及其初始状态,我们就可以开始了。为了正确处理一些边缘情况,我稍微调整了_gaussian_density(也用于处理NULL 值)..
非常感谢!
【问题讨论】:
标签: sql postgresql