基于残差密集组的多尺度深度神经网络去雾算法思考

发布时间:2022-05-16 21:55:17 论文编辑:vicky

本文是一篇计算机论文,本文还在权威基准公开合成雾数据集 RESIDE 上进行训练与测试,验证所提部分结构的有效性,并且与当前已有最新的基于深度学习的经典去雾方法进行对比实验,通过主观视觉评价以及客观指标评价两个方面验证本文所提去雾方法的有效性。同时使用真实有雾图像数据对模型进行测试,证明本文方法在现实有雾场景下去雾效果也十分优秀。

1 绪论

1.1 研究背景及研究意义

随着工业发展的进步,空气污染愈发严重,在我国多地城市都会产生严重的雾霾天气,其中 PM2.5 是造成雾霾天气的主要原因。生活环境频频产生雾霾,且空气质量较差,给人们的日常生活带来了许多的不便、影响了国民的身体健康。    目前计算机视觉领域蓬勃发展,自动驾驶、军事侦察、航空航天等计算机视觉任务在工业中被广泛应用。因此对有雾的复杂场景进行有效去雾,减少雾霾对上述视觉任务的影响成为当下重要的研究方向。例如在当前热门的自动驾驶领域中,雾天的自动驾驶则成为难题,有效识别雾霾下的物体、识别当前场景的复杂度、提高自动驾驶系统处理信息的速度,能够使自动驾驶系统更快的发展,避免发生交通事故;在军事侦察以及航空航天任务中,图像去雾使得在复杂场景下图像处理系统以及人眼对环境和目标有效的观察和识别,保障了军事侦察的准确性和飞行员雾天飞行的安全性;在日常生活中,运用图像去雾技术使得人脸识别和牌照识别[1]在雾天复杂场景下更加精确。因此,在未来的学术界以及工业界,图像去雾将会有重要的研究价值和应用前景。

当前已有的图像去雾算法中,一种是基于雾图像成像模型,其基于先验知识,使用统计学方法计算特征,恢复无雾图像。另一种则是基于深度学习技术,在人工智能的背景下,依靠大量带有标签的有雾数据集进行训练,或者使用深度学习模型估计大气散射模型参数,代替雾图像成像模型,提取有雾图像的深层次特征信息,利用提取到的特征重建无雾图像,这种方法使得去雾任务的性能以及效果都更加优秀。

1.2 国内外研究现状分析

当前已有图像去雾方法可分为单幅图像去雾和多幅图像去雾两大类。多幅图像去雾算法通过对一个场景下不同天气状况的多幅图像进行特征提取,从而得到无雾图像。这类去雾算法简单且运行速度快,不仅可以获得更多有效的信息,还可以帮助解决病态问题、处理一些特殊情况下的图像信息,例如不同时间点和季节的图像。但是多幅图像去雾具有一定局限性,其需要同一场景下的多个图像特征信息,但实际上在现实实践中很难获得所需的多个图像,因此实用性很低。所以这种算法在生活中不能被广泛地应用,且这种局限性使其使用条件十分苛刻,所以单幅图像去雾算法成为当下去雾算法主流的研究方向。其通过使用一些特定图像处理技术对单一场景下的有雾图像进行去雾处理,从而恢复图像的细节特征与色彩特征。根据不同算法的特点,单幅图像去雾算法分为图像增强方法、图像恢复方法以及基于深度学习的去雾算法。

1.2.1 基于图像增强的去雾算法

基于图像增强去雾算法更加注重有雾图像中的重要信息,根据不同的特征来抑制无用信息,提高图像质量的要求。这类算法简单,原理成熟,但是颜色对比度校正过强是造成图像质量下降的主要原因,所以基于这种方法得到的无雾图像常常会颜色失真,违背了图像去雾的初衷。主流的图像增强去雾算法主要分为以下几种:

基于直方图均衡化的图像增强算法是一种基于亮度恒常性的图像增强算法[2],在空间域上,利用累积分布函数使图像的灰度值区间变大,从而加强了对比度来达到去雾的目的。但直方图均衡化方法将整个图像的灰度值进行均衡,忽略了图像的局部特征信息。所以这种方法仅适合对场景深度比较单一的图像进行去雾,而对场景深度复杂的图像则无法达到良好的效果。之后又衍生出了局部直方图均衡化算法,该方法对图像的局部进行分别均衡,从而保持图像的完整性细节,不过该算法存在颜色失真、计算复杂、块度大等缺点。Sun 等人[3]、Kim 等人[4]、Smitha M L等人[5]和王萍等人[6]分别提出部分重叠、子块不重叠、对比度限制等算法,在图像去雾领域都达到了一定较好的效果。

2 图像去雾基础理论

2.1大气散射模型

大气中存在的各种粒子经过太阳光的散射作用生成雾霾,无论从拍摄还是人眼观察都会存在对比度低、清晰度差的问题。Srinivasa G. Narasimhan 等人提出大气散射模型,阐述大气中悬浮粒子对太阳光吸收和散射造成雾霾,使得有雾图像清晰度低,并建立数学模型。有雾图像的成像原理如图 2-1 所示。其原理是照相机等成像设备接收到两种光源,一种是拍摄目标反射光线被空气中的粒子吸收和散射最终到达成像设备的光,二是拍摄环境的光线被粒子散射而形成的大气光,这两种光源共同使拍摄出的图片呈现雾霾状态。

计算机论文怎么写

2.2 基于深度学习的单幅图像去雾算法

基于深度学习的单幅图像去雾算法是指利用深度学习的神经网络结构以及其他手段对单张有雾图像进行处理后恢复得到无雾图像。随着深度学习在计算机视觉领域中做出的重大贡献,自然也就产生了大量基于深度学习的单幅图像去雾算法的前沿研究。并且随着深度学习等监督学习算法的广泛运用,越来越多数据集将清晰图像进行处理,人工合成有雾图像,将其运用到神经网络的训练中,基于大量有标签数据能够训练出效果很好的去雾模型。

基于深度学习的单幅图像去雾算法主要分为两类:一类是运用大气散射模型,并利用深度学习估计大气光大小和大气投射率传播函数后,将其带入大气散射模型计算得到无雾图像。第二类则是直接利用卷积神经网络提取有雾图像的深层次信息,并利用这些特征恢复无雾图像,这种方法省去了估计参数的步骤,且随着各种功能强大的特征提取网络出现并且有很强的可扩展性,其更受广大研究者的青睐。

2.2.1 基于大气散射模型的去雾算法

针对传统的手工提取特征十分困难的问题,基于大气散射模型的去雾算法利用CNN 代替。在使用大气散射模型的过程中,估计得到准确的大气透射率,则能够更容易得到无雾图像。卷积神经网络提更能够获得图像的高层特征。在运用深度学习算法进行去雾,通常也比传统的方法更加有效,其中经典的算法是 DehazeNet[36]和 MSCNN[37]。

(1) DehazeN et

DehazeNet[36]是一个”End-to-End”的深度学习去雾方法,可以构建从有雾图像到投射图的直接映射。该网络将有雾图像输入神经网络,得到大气透射率图。之后基于大气散射模型估计得出无雾图像。其网络结构如图 2-2 所示。

DehazeNet 网络结构设计十分新颖,从图中可以看出其使用的网络层不多:第一层的特征提取,第二层的多尺度映射,第三层使用了池化层,最后使用了激活单元,网络结构十分小巧,但却完成了比较精细的去雾工作。

计算机论文参考

3 基于残差密集组的多尺度特征融合去雾网络 ............................ 12

3.1 网络结构 ......................... 13

3.2 算法理论 ........................ 14 

4 基于通道注意力机制的两阶段细去雾网络 ....................... 27

4.1 网络结构 ......................... 27

4.2 算法理论 ......................... 29 

5 总结与展望 ................................. 43

5.1 总结 ................................ 43

5.2 展望 ........................... 44

4 基于通道注意力机制的两阶段细去雾网络

4.1 网络结构

本章所提出基于通道注意力机制的两阶段精细去雾网络结构如图 4-1  所示,第二级网络各卷积层的参数如表 4-1 所示。

该网络同样是一个端到端的结构,类似于第三章所述算法的结构,输入有雾的图像进行不同尺度的特征提取。而本章再次基础上加入的两阶段去雾网络,将原始的有雾图像与第一阶段网络输出的去雾结果进行 concatenate 拼接,通过残差密集组结构与卷积,输出精细无雾图像。本章所用的所有 RDBG 都是在第三章提出的残差密集组结构中加入注意力机制形成的。

第二级网络将第一级网络的输出与原始图像进行 concatenate 拼接成 6 通道图像作为第二级网络的输入,经过 conv8 获得 16 通道的特征图,再经过 RDBG9 对通道拼接后获得的特征图进行特征提取,最后经过 conv9 和 conv10 两个卷积层整合特征,对融合后的特征图进行非线性映射,conv10 的输出即为经过修正后的精细去雾图像。

本文将输入的原始有雾图像与第一级网络输出的粗去雾图像进行 concatenate通道拼接后进行卷积—残差密集组—卷积的操作对粗去雾图像进行细微修正。

第三章中的残差密集组以及三尺度融合都是使用了 add 方法相加。Add 方法使图像特征增多,但图像的特征通道数不变,而是每一特征通道下增加了更多的信息。并且多组特征图通过 add 方法融合,使得特征数据的维度下降,信息则有所损失,但计算量小。

计算机论文参考

5 总结与展望

5.1 总结

当前环境污染问题愈发严重,在雾天进行日常拍摄、监控设备拍摄的图像模糊程度高、饱和度低,对拍摄清晰图像造成很大的困扰。在影响人们正常视觉感受的同时,对工业应用上的视觉任务造成影响。因此在清晰图像愈发重要的今天,图像去雾任务成为了计算机视觉领域重要的研究课题。且如今 AI 蓬勃发展,在图像去雾任务中使用深度学习方法成为了主流研究方向,但当前已有的方法中仍然存在不足,算法实现还有很大的发展空间。因为大气散射模型的存在,目前大多数算法依然是基于深度学习与大气散射模型的结构,但是预测大气散射模型里的一些中间变量往往会存在误差,当误差稍大时,再经过神经网络层层训练后会使得误差逐步放大,造成模型的去雾效果不理想,即使一味的修改预测大气散射模型参数的方法也是一件困难的任务。另一方面,去雾模型的性能还需要进一步的提高改进,使得浓雾图片也能有很好的去雾效果。对已有去雾方法进行实验和研究后,针对上述问题,  提出了基于残差密集组的多尺度深度神经网络去雾算法网络结构。本文的主要工作总结如下:

(1)本文提出了一种基于多尺度特征融合的去雾网络。使用训练好的模型可以通过深度学习网络直接将有雾图像恢复得到去雾后图像,并且不使用大气散射模型。本文所提网络结构对输入的有雾图像进行三个尺度的特征提取,从而得到有雾图像的局部特征和全局特征。并提出了残差密集组结构解决浓雾场景下去雾效果不好的问题,将结合连续的两个残差密集块组成特征提取模块支持了块与块之间的中短期记忆,提取有雾图像的深层特征,且网络更容易训练。

(2)本文提出了一种基于通道注意力机制的两阶段去雾网络。该算法能够关注与每个模块阶段下更需要被关注的特征,在网络中每个残差密集组结构内加入通道注意力机制,为特征图中的每一个特征通道都增加一个代表其重要程度的权重。并且引入两级去雾网络,通过输入图像本身的原始特征对输出的去雾图像进行细微修正,得到更加精细的无雾图像。该网络能够提取输入图像各个阶段的有效特征,使模型的鲁棒性更强,恢复后的清晰图像质量得到了大幅提升。

参考文献(略)

提交代写需求

如果您有论文代写需求,可以通过下面的方式联系我们。