视频监控等智能设备在计算机视觉系统应用中起着重要的作用,由于雾、霾天气的存在,使得成像设备采集到的图片降质严重,给视觉系统带来极大不便。因此,图像去雾有着很重要的研究价值以及实用意义。
图1 有雾图像艺术效果图
迄今为止,雾天条件下降质图像的清晰化处理主要分为三类:基于图像增强的方法、基于图像复原的方法以及基于深度学习的方法。
1) 基于图像增强的方法处理速度较快但并未考虑图像退化的本质,只是通过提高图像对比度来突出图像的细节特征,并非实际意义上的去雾,现在已基本不再使用。
2) 基于图像复原的方法通过研究雾天图像退化的物理机制,建立雾天退化模型,利用先验知识或景深信息估计模型中的未知参数,反演退化过程,以便获得无雾图像的最优估计值,从而改善雾天图像的质量,但该方法待估计参数多,容易出现误差。
图2 雾天成像过程示意图
3) 近年来,随着人工智能的快速崛起,深度学习引起了众多计算机视觉领域研究者的重视,基于深度学习方法的成为目前去雾领域的主流研究方向。
图3 去雾研究概况示意图
传统的网络结构提取图像特征时通常是从单路径结构体系出发的,网络各阶段间没有通信。虽然能够得到所需特征,但随着网络深度的增加,特征精度提升有限,并不能达到良好的效果。
考虑到各层不同阶段之间的信息交互,兰州交通大学杨燕教授团队搭建密集级联网络,充分利用各层网络不同深度的空间信息以及图像细节特征,获取到更加全面丰富的特征信息。各层之间的信息交互不仅实现了特征重用的目的,提升网络精度,而且可以有效减小模型部署成本。
图4 模型对比
该成果以“分离特征和协同网络下的端到端图像去雾”为题发表在《光学 精密工程》(EI、核心期刊)。
在这项研究中,主要的工作为:
(1) 对传统大气散射模型进行变形,分离出乘性和加性特征,根据其对最终去雾结果的影响程度设计相关网络结构。
(2) 乘性特征提取网络MFEM充分考虑不同深度的空间信息及细节特征,通过各层之间密集级联达到特征重用和信息补偿的目的。
(3) 利用残差跨连结构搭建加性特征提取网络AFEM,用于训练偏置加性特征。
图5 网络总体架构
实验表明:所提网络去雾效果良好且图像保真度高,与其它算法相比优势明显,有效解决了当前图像去雾不彻底、颜色偏移及细节保持不佳、可见度下降等问题。但由于该网络的复原模块本质上还是依靠大气散射模型,复原出的部分图像在细节保持及天空区域的颜色保真度方面仍存在不足,提高去雾模型的准确性将是今后进一步的研究重点。
论文信息:
杨燕,梁小珍,张金龙.分离特征和协同网络下的端到端图像去雾[J].光学精密工程,2021,29(08):1931-1941. DOI:10.37188/OPE.2021.0003
论文地址:
#10.37188/OPE.2021.0003
作者简介:
杨燕,兰州交通大学 电子与信息工程学院,博士,教授,硕士生导师,1995年于兰州铁道学院获得学士学位,2006年于兰州交通大学获得硕士学位,2010年于兰州大学获得博士学位,主要从事数字图像处理,智能信息处理及语音信号处理方面的研究。
梁小珍,兰州交通大学 电子与信息工程学院,硕士研究生,主要从事计算机视觉、数字图像处理方面的研究。
监制 | 袁境泽,臧春秀、赵阳