【问题标题】:Hamming distance in ancient Microsoft DBMS古代 Microsoft DBMS 中的汉明距离
【发布时间】:2014-09-12 01:33:18
【问题描述】:

问题

我想在 MS SQL Server 7 中查找图像重复和相似图像。

编辑

我使用 sql 游标运行它 - 它很慢,但它可以工作,再次感谢您的评论。请参阅我提出的解决方案的答案。

具体...

我有一个数据库,其中包含图像路径和在this dhash algorithm 的帮助下计算出的相关图像的指纹。我正在使用一个变体,在 BINARY(16) 列中存储每张图像 128 位(水平和垂直渐变)。

我希望能够做的事情是:

DECLARE @id INT
SET @id = ...

DECLARE @given_hash BINARY(16)
SET @given_hash = ...

SELECT TOP 10 file_path,hash,
    (hamming_distance(hash, @given_hash)) AS distance
FROM my_table
WHERE distance <= 20
ORDER BY distance ASC

什么在起作用?

获得完全相同的副本是微不足道的 - 只需使用 WHERE hash = @hash_to_compare 即可。

什么不工作?

但是,我希望能够使用相似性度量 (Hamming Distance) 来解决小的操作/缺陷/压缩伪影等问题。 我想出了一个实现距离测量的存储过程:

CREATE PROCEDURE hamming_distance128
    @hash BINARY(16),
    @supplied BINARY(16)
AS
    DECLARE @i INT, @j INT
    SET @i = 1
    SET @j = 1

    DECLARE @count INT
    SET @count = 0

    DECLARE @byte TINYINT

    DECLARE @length TINYINT
    SET @length = 16

    WHILE @i <= @length
    BEGIN
        SET @j = 1
        SET @byte = CAST((ASCII(SUBSTRING(@hash,@i,1)) ^ ASCII(SUBSTRING(@supplied,@i,1))) AS TINYINT)

        WHILE @j < 256
        BEGIN
            SET @count = @count + (CASE (@byte & @j) WHEN 0 THEN 0 ELSE 1 END)
            SET @j = @j * 2
        END

        SET @i = @i + 1
    END

    SELECT @count
GO

不幸的是,DBMS(SQL Server 7 - 无法升级/更改它)不会让我使用它来计算查询中的距离,并且这块 j*nk 不支持用户定义的函数。果然,我没有找到任何像 MySQL 的 BIT_COUNT 这样的东西,这对于 T-SQL 来说是毫无疑问的。

是否有希望让它在 SQL Server 7 上的 T-SQL 中工作?

帮助非常感谢!

【问题讨论】:

  • 很可能您必须遍历表格并以您最喜欢的编程语言应用一个函数。 “不让我”是什么意思?
  • 我感觉你是对的,但我希望不必为此编写自定义 SQL Server dll ......我觉得它不被支持。 “不会让我”只是意味着我不能使用该存储过程来计算查询中的列值......我不知道它是否通常是可能的,它只是拒绝这样做:-)
  • 如何使用临时表和游标来填充它?您可以将其包装在另一个存储过程中并返回临时表作为其结果。
  • @Tomalak:感谢您的建议,我不是 SQL 专业人士,但在阅读了有关 sql 游标后我得到了它 - 每个来源都强烈建议不要使用它们,但现在我看不到另一种方式。有关解决方案,请参阅我的更新
  • @vanhelgen 来源是正确的,“由于游标的顺序性质,包括游标在内的解决方案比它们可能的要慢得多”。但是,游标的存在是有原因的。他们可以解决查询无法解决的问题。而这在 SQL Server 7.0 上就是这样一个问题。这里的光标没有问题。

标签: sql-server tsql hamming-distance sql-server-7


【解决方案1】:

我使用 SQL 游标和临时表运行它。再次感谢@Tomalak

我提供我的实现以供将来参考,希望这对任何人都有用

CREATE PROCEDURE hamming_distance128
    @hash BINARY(16),
    @supplied BINARY(16),
    @distance TINYINT OUTPUT
AS
    DECLARE @i INT, @j INT
    SET @i = 1
    SET @j = 1

    DECLARE @count TINYINT
    SET @count = 0

    DECLARE @byte TINYINT

    DECLARE @length TINYINT
    SET @length = 16

    WHILE @i <= @length
    BEGIN
        SET @j = 1
        SET @byte = CAST((ASCII(SUBSTRING(@hash,@i,1)) ^ ASCII(SUBSTRING(@supplied,@i,1))) AS TINYINT)

        WHILE @j < 256
        BEGIN
            SET @count = @count + (CASE (@byte & @j) WHEN 0 THEN 0 ELSE 1 END)
            SET @j = @j * 2
        END

        SET @i = @i + 1
    END

    SET @distance = @count
GO


DECLARE @min_similarity FLOAT
SET @min_similarity = 0.85 -- | 85%

DECLARE @supplied_hash BINARY(16)
SET @supplied_hash = 0x392929295B4B13371B0301272D2B2509

IF OBJECT_ID('tempdb..#distances') IS NOT NULL
BEGIN DROP TABLE #distances END

CREATE TABLE #distances
(id INT NOT NULL,
 similarity FLOAT NOT NULL)

DECLARE
    @tmp_id INT,
    @dhash BINARY(16),
    @distance TINYINT,
    @similarity FLOAT

DECLARE rowCursor CURSOR
LOCAL FORWARD_ONLY READ_ONLY
FOR
    SELECT id,dhash_value
    FROM hashes
    OPEN rowCursor
        FETCH NEXT FROM rowCursor
        INTO @tmp_id,@dhash

        WHILE @@FETCH_STATUS = 0
        BEGIN
            EXECUTE hamming_distance128 @dhash, @supplied_hash, @distance OUTPUT

            IF @distance < 128
            BEGIN
                SET @similarity = CAST(128 - @distance AS FLOAT) / 128.0

                IF @similarity >= @min_similarity
                BEGIN
                    INSERT INTO #distances (id,similarity)
                    VALUES (@tmp_id,@similarity)
                END
            END

            FETCH NEXT FROM rowCursor
            INTO @tmp_id,@dhash
        END
    CLOSE rowCursor
DEALLOCATE rowCursor

SELECT hashes.id,#distances.similarity
FROM #distances
    INNER JOIN hashes
    ON hashes.id = #distances.id
ORDER BY #distances.similarity DESC

DROP TABLE #distances

【讨论】:

  • 将我的解决方案移至答案 - 这真的更有意义
  • 我想我刚刚发现了一个错误。您在开始时调用FETCH NEXT 两次,因此忽略第一行。您应该在循环开始之前调用一次FETCH NEXT FROM rowCursor INTO @tmp_id, @dhash,然后在每次迭代结束时重复调用。
  • 不客气。我认为其余的代码看起来不错。
猜你喜欢
  • 2017-09-10
  • 2012-09-26
  • 2015-03-21
  • 2012-03-10
  • 2014-01-28
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2019-04-23
相关资源
最近更新 更多