Menu

Menu

基于深度卷积神经网络的偏振图像超分辨率重建

基于深度卷积神经网络的偏振图像超分辨率重建
撰稿人 |  戴  宏

 

TITLE  |  #基于深度卷积神经网络的偏振图像超分辨率重建#

01

 

论文导读

 

偏振图像分辨率的降低使得很难区分详细的偏振信息,并限制了识别小目标和弱信号的能力。解决这个问题的一种可能方法是偏振超分辨率(SR),其目的是从低分辨率图像中获得高分辨率偏振图像。然而,与传统的强度模式图像SR相比,偏振SR更具挑战性,因为需要考虑更多的通道及其非线性级联,并且需要同时重建偏振和强度信息。本文基于两种退化模型提出了一种用于偏振SR重建的深度卷积神经网络。该网络结构和损失函数已被验证可以有效地平衡强度和偏振信息的恢复,并可以实现最大缩放因子为4的SR重建。实验表明,对于两个具有不同缩放因子的降解模型,该方法在定量评价和视觉效果评价方面均优于其他SR方法。

 

02

 

研究背景

 

偏振成像系统可以测量目标物体反射或透射的光的偏振状态,因此已被广泛应用于各种应用。然而,图像分辨率降低显著影响了这些应用的实际性能,详细的偏振信息可能会丢失,并且无法检测到具有弱偏振信号的目标。因此,一种有效的偏振图像超分辨率重建算法具有重要意义。

 

已有的SR方法不能直接应用于偏振图像的任务,因为与强度模式图像相比,偏振图像具有更多的通道,这些通道对应于不同的偏振特性,使得难以处理所有通道中的重建处理。此外,大多数偏振参数,即线偏振度(DoLP)和偏振角(AoP),都是通过非线性方法从这些通道中计算出来的。因此,如何平衡强度和偏振信息的重建是偏振图像SR任务面临的主要挑战

本文考虑了偏振图像的两种退化模型来模拟实际中的图像退化,并提出了一种基于CNN的偏振SR重建网络结构和偏振损失函数,平衡了强度信息和偏振信息的恢复。实验结果表明,该方法在定量评估(PSNR和SSIM)以及对两种退化模型获得的图像的视觉效果评估方面均优于其他方法。特别是,该方法可以有效地恢复LR图像中的偏振信息,最大缩放因子为4。

03

 

实验方法

 

3.1 基于斯托克斯测量的偏振图像超分辨率重建模型

 

在实验中,本文记录了四个具有不同偏振方向的强度图像,即0°,45°,90°,和135°。设I0、I45、I90和I135来计算线性斯托克斯矢量,即S=[S0,S1,S2]T。

计算用式(1)表示:

基于深度卷积神经网络的偏振图像超分辨率重建
基于斯托克斯矢量,本文可以通过下式(2)推导出另外两个基本偏振信息,即DoLP和AoP:

 

基于深度卷积神经网络的偏振图像超分辨率重建
斯托克斯矢量的SR是基于从LR偏振图像重建HR偏振图像,然后得到斯托克斯矢量S。基本模型可以表示为式(3):

 

基于深度卷积神经网络的偏振图像超分辨率重建
式(4)中定义的W是依赖于偏振成像系统的测量矩阵,每一行向量即Wθ是与四个不同偏振方向相关的测量向量。

 

基于深度卷积神经网络的偏振图像超分辨率重建
公式(3)中的退化模型定义了HR和LR图像之间的关系。值得注意的是,在一些特殊应用中,实际图像退化总是受到三个因素的影响,即模糊、下采样和噪声。基于这一事实,有两种具有代表性的退化模型,包括:

 

●传统退化(TD)模型,仅考虑具有缩放因子α的下采样,即ILRθ=(IHRθ)↓α

●改进的退化(ID)模型,它还考虑了噪声(即N)和模糊(即⨂k)的影响,即ILRθ=(IHRθ⨂k)↓α+N。

本文在图1中给出了两个模型之间差异的示意图。与TD模型相比,ID模型更复杂,但更接近真实的光学成像系统,特别是对于分辨率降低和非理想成像环境下的光学成像仪。简而言之,这两种模式都很重要。

基于深度卷积神经网络的偏振图像超分辨率重建
图1. 两个退化模型的示意图和图表数据集捕获设置

 

3.2 神经网络的结构

 

为了将LR偏振图像重构为HR偏振图像,本文提出了偏振SR网络(PSRNet),其结构如图2所示。该网络由四个部分组成:浅层特征提取(SFE)、一系列残差密集块(RDBs)、全局特征融合(GFF)和上采样模块。

基于深度卷积神经网络的偏振图像超分辨率重建
图2. 所提方法网络结构:(a)缩放因子为4的PSRNet的网络结构;(b)残余密集块(RDB)的网络结构。

 

网络各层的详细参数如表1所示。G是RDB的数量。I表示每个RDB的Conv-ReLU块的数量。64×i是第i个Conv-ReLU块的输入通道。

 

表1. 各网络层参数

 

基于深度卷积神经网络的偏振图像超分辨率重建
3.3 损失函数

 

对于偏振SR重建,直接计算输出图像和HR的损失不能很好地将偏振信息图像与标注真实数据相匹配,有效的方法之一是使用偏振表示损失函数,最终损失函数包括内容损失和偏振感知损失:

●内容损失将更多注意力集中在重建的强度图像上。当对所提出的网络进行监督时,通过HR和输出之间的差来给出损失:

基于深度卷积神经网络的偏振图像超分辨率重建
●偏振感知损失更多地关注偏振信息的重建,即本文中的DoLP和AoP图像,其由下式给出:

 

基于深度卷积神经网络的偏振图像超分辨率重建
网络的总损失为:

 

基于深度卷积神经网络的偏振图像超分辨率重建
04

 

图文结果

 

4.1 数据集和训练设置

 

用于偏振SR重建的数据集包括150组图像;每组包含HR偏振图像、通过TD模型推导的LR偏振图像和通过ID模型推导的LR偏振图像。值得注意的是,所有HR偏振图像(空间分辨率为1224×1024)都包含四个不同的子图像,对应于偏振方向,即0°,45°,90°和135°。在下文中,本文将展示PSRNet的性能,并基于图1中给出的两个退化模型(即TD和ID)。

为了扩大数据集的规模,本文应用了一个大小为32×32的窗口来裁剪步长为16的LR图像。因此,可以确定与HR图像裁剪相对应的窗口和步长,即当缩放因子为2和4时,HR图像的补丁大小分别为64×64和128×128。

4.2 结果与讨论

 

为了验证本文的方法对这两种模型都是有效的,本文将其与一些有代表性的方法在定量和视觉效果评估方面进行了比较,包括双三次插值、SRCNN、PDCNN和SRResNet。

表2. 不同方法对TD模拟结果的平均PSNR/SSIM

 

基于深度卷积神经网络的偏振图像超分辨率重建
为了进行可靠的验证,表3比较了不同方法重建获得的强度、DoLP和AoP图像的平均PSNR和SSIM。本文的方法在大多数情况下都优于其他方法,只有AoP的SSIM值略差于其他方法,这是由于标注真实数据和重建的AoP图像中的噪声放大了它们之间的差异,可以通过优化标注真实数据的标题处理和提高其质量来解决这一问题。在表3的最后一列对×4进行了比较,该方法在减少推理时间的前提下取得了较好的性能。

 

表3. 不同方法对ID模拟结果的平均PSNR/SSIM和运行/推理时间

 

基于深度卷积神经网络的偏振图像超分辨率重建
为了验证该方法在实际数据上的有效性,图6给出了重建强度、DoLP和AoP的示例图像。结果表明,该方法对真实偏振图像数据集同样有效。

 

基于深度卷积神经网络的偏振图像超分辨率重建
图3. 多重分解方法与本文方法的比较结果。

 

05

 

总结

 

本文提出了一种有效的解决方案来提高偏振图像的分辨率。考虑到不同的图像退化操作,即模糊、下采样和噪声,分析并应用偏振图像的两个退化模型来生成偏振图像数据集,包括LR和HR图像组。基于退化模型,本文设计了偏振SR的CNN和偏振损失函数,与基于强度模式图像的双三次插值和深度学习方法相比,作者更关注偏振信息的重建,并恢复更接近地面实况的偏振信息细节。此外,本文用不同缩放因子生成的LR图像测试了该方法,所提出的方法可以有效地恢复LR图像中三个偏振参数的细节,即强度、DoLP和AoP图像,最大缩放因子为4。

 

文章链接:

 

https://doi.org/10.1364/OE.479700

免责声明:本文旨在传递更多科研资讯及分享,所有其他媒、网来源均注明出处,如涉及版权问题,请作者第一时间联系我们,我们将协调进行处理,最终解释权归旭为光电所有。