如何修复这个 YCrCb -> RBG 转换公式？

Question

我使用来自this question的公式：

uint8_t *rgbBuffer = malloc(imageWidth * imageHeight * 3);

// .. iterate over height and width

// from ITU-R BT.601, rounded to integers
rgbOutput[0] = (298 * (y - 16) + 409 * cr - 223) >> 8;
rgbOutput[1] = (298 * (y - 16) + 100 * cb + 208 * cr + 136) >> 8;
rgbOutput[2] = (298 * (y - 16) + 516 * cb - 277) >> 8;

我假设基于ITU-R_BT.601 formula in the wiki article。

但我认为公式不太正确，因为输出图像如下所示：

如何修正公式？

Answer 1

在@Fiddling Bits 的帮助下。修正后的代码是这样的：

uint8_t ClampIntToByte(int n) {
    n = n > 255 ? 255 : n;
    return n < 0 ? 0 : n;
}

rgbOutput[0] = ClampIntToByte(((298 * (y - 16) + 409 * cr) >> 8) - 223);
rgbOutput[1] = ClampIntToByte(((298 * (y - 16) - 100 * cb - 208 * cr) >> 8) + 136);
rgbOutput[2] = ClampIntToByte(((298 * (y - 16) + 516 * cb) >> 8) - 277);

Answer 2

假设第一次计算的最大值（y == 255 和 cr == 255）：

rgbOutput[0] = (298 * (255 - 16) + 409 * 255 - 223) >> 8;
rgbOutput[0] = (298 * 239 + 104295 - 223) >> 8;
rgbOutput[0] = (71222 + 104295 - 223) >> 8;
rgbOutput[0] = 175294 >> 8; // 175294 == 0x2ACBE
rgbOutput[0] = 684; // 684 == 0x2AC

rgbOutput[0] 可以容纳的最大值是255。您试图将 684 分配给它，导致截断。分配给它的实际值为172 (0xAC)。

编辑 1

根据您发布的公式，您的第一个计算应该如下：

rgbOutput[0] = ((298 * y) >> 8) + ((409 * cr) >> 8) - 223;

这会导致480 的值（假设y 和cr 的最大值），这也会导致截断。

编辑 2

建议使用以下等式：

改用这个，你的第一个计算应该是这样的：

rgbOutput[0] = ((255 * (y - 16)) / 219) + ((179 * (cr - 128)) / 112;

这导致480 的值（假设y 和cr 的最大值）（编辑1 中的相同答案），这也会导致截断。

编辑 3

查看@Robert 的回答以获得完整的解决方案。

编辑 4

当y == 0 和cr == 0 时，写入y 的值也会导致截断，除非执行钳位。