Abstract

现有的显著性检测方法使用images作为输入,它对前景/背景相似,复杂的背景纹理和遮挡是敏感的。 我们探索使用光场(Light Field)作为显著性检测的输入。 我们证明了光场特有的重聚焦可提供有用的聚焦度信息,深度和客观性线索。实验表明,我们的显著性检测方案可以稳健地处理具有挑战性的场景,例如前景和背景相似,背景杂乱,复杂的遮挡等,并实现了高精度和鲁棒性。

Introduction

光场有助于显著性检测的原因:
(1)光场具有独特的捕获后再聚焦能力,即它可以合成聚焦在不同深度的一组图像。如果我们能从焦堆栈中选出只聚焦在前景的图像,那么显著目标检测问题就等同于聚焦度测量算法。焦堆栈的 availability与“聚焦度”度量一致[13],它是模糊度的倒数,可以通过尺度空间分析根据边缘尺度进行估计。
(2)光场提供了场景深度和遮挡的近似值。在显著性检测中,即使是不太精确的深度图也能很好地区分前景和背景。
现存问题:
当前景和背景具有相似的外观或背景是杂乱时,鲁棒的背景检测是一个挑战。
解决方案:
通过测量像素/区域的聚焦度来计算前景似然得分(FLS)和背景似然得分(BLS)。选择BLS最高的层作为背景,并用它来估计背景区域。另外,选择FLS较高的区域作为候选显著对象。最后,我们对全聚焦图像进行基于对比度的显著性检测,并将其与检测到的候选显著性线性结合起来。实验表明,我们的显著性检测方案能够很好地处理具有挑战性的场景,如相似的前景和背景、杂乱的背景、多深度层和严重遮挡的图像等,达到了较高的精度和鲁棒性。论文阅读--Saliency Detection on Light Field

Compute light field saliency cues

1.聚焦度线索

频域求出每张焦堆栈图像的聚焦度图:
(1)先对每张焦堆栈图像I(x,y)进行DCT变换
论文阅读--Saliency Detection on Light Field
(2)我们计算图像对不同频率分量的响应。我们首先在D(u,v)上应用M个带通滤波器{Pm}来分解信号,然后通过逆DCT将分解的结果转换回来。模糊区域将移除某些高频成分。因此,只有聚焦区域在所有频率上都具有高响应。在实现中,我们使用8 *8的滑动窗口,并计算每个块关于带通滤波器{Pm}的方差tm。为了确保可靠的聚焦测量,我们使用谐波方差[37]来测量所有滤波器的总体方差
论文阅读--Saliency Detection on Light Field
(3)为了测量区域的聚焦度,我们只需计算区域r内所有像素的平均值
论文阅读--Saliency Detection on Light Field
2.背景选择

(1)分析聚焦对象相对于其在图像中的位置的分布:如果大多数聚焦对象(像素)位于图像的边界附近,则它们更可能属于背景。此外,如果对应的深度层较远,则其焦点内的对象也更可能是背景。因此我们遍历所有的焦堆栈切片。对于每个切片I,我们分别沿x轴和y轴投影所有像素的聚焦度值,形成两个一维聚焦度分布
论文阅读--Saliency Detection on Light Field论文阅读--Saliency Detection on Light Field
显著性目标更可能分布在图像的中央附近,由此可推得焦堆栈中的背景层(某个焦堆栈图像)边界处的聚焦度会高。故背景层边缘处的Dx和Dy值会高,而中央附近的Dx和Dy值会低。为了凸显焦堆栈图像中不同的聚焦度分布,采用U型滤波器对一维聚焦度分布进行滤波:
论文阅读--Saliency Detection on Light Field
由于背景层的Dx和Dy值在边界处比较高,故U型滤波器(个人理解,U型滤波器就是和高斯滤波器相反)用于抑制候选前景层的聚焦度取值从而选出背景层。每一层的背景相似性BLS可以用U型滤波器得到:
论文阅读--Saliency Detection on Light Field
3.对象性和前景选择
一个突出的对象应该是完整的,因此,我们用一维高斯滤波器来测量焦堆栈图像I(x,y)的对象性
论文阅读--Saliency Detection on Light Field
对象性分值:
论文阅读--Saliency Detection on Light Field
如果焦堆栈切片中的对象是显著的,那么它应该具有低BLS和高OS,表明它属于前景。因此,我们将前景相似性定义为
论文阅读--Saliency Detection on Light Field
显著性目标的景深往往比背景所占景深要大,所以在不止一层上有较太的聚焦度,故此处选择FLS(FLS>0.7*max(FLS))作为前景候选。

Saliency Detection

1.位置线索
用背景切片IB的聚焦度图FB(r)来确定全聚焦图像的背景区域,并结合位置先验作为背景线索
论文阅读--Saliency Detection on Light Field其中,pr是区域r的中心点(分割全聚焦图像超像素时已经得到),c表示整幅全聚焦图像的中心点,r是归一化因数,取r=max llPr-cll )。

对背景层的BC®值进行阈值划分,首先将每个超像素的BC®值按从小到大的顺序排列,然后取前K个BC®值所在区域作为显著区,后D个BC®值所在区域作为背景区,其中K+D=超像素个数,可以得出背景区集合R’(r)和前景显著区集合R(r)。
由于BC®较大的值位于背景区而非显著区,故计算显著区域不能使用BC®,而是使用BC的对数,即位置信息为:
论文阅读--Saliency Detection on Light Field
2.对比度线索
将每一个显著区r与每一个非显著区r’进行颜色对比。计算每一个显著区r与每一个背景区r’的颜色差异:论文阅读--Saliency Detection on Light Field
其中论文阅读--Saliency Detection on Light Field
将颜色对比度与位置信息结合可得基于颜色对比度的显著图
论文阅读--Saliency Detection on Light Field

3.前景线索
将前景候选与位置信息相结合可得到前景线索:
论文阅读--Saliency Detection on Light Field
4.最终显著性
将基于颜色对比度的显著图和前景线索相结合,并使用各层的目标系数作为权重因子,得到最终显著性论文阅读--Saliency Detection on Light Field

相关文章: