论文阅读：Singe Image Rain Removal with Unpaired Information: A Differentiable Programming Perspective
这篇文章与Attentive-GAN网络结构很相似，顺带一起整理了。
成长就是在慢慢学会放下。
2019AAAI ： RR-GAN
这篇文章源自2019年的AAAI会议期刊上的一篇论文，在研究领域中首次提出了基于对比学习的降噪方法，并将其架构与2018年CVPR上的AttentiveGAN具有相似之处
该研究主要针对雨噪声去除问题提出了RainRemoval-GAN（RR-GAN）模型。该方法基于不配对监督学习机制构建了整体网络架构。整体网络由一个多尺度注意力记忆生成器与一个多尺度深度监督判别器共同构成。多尺度注意记忆生成器采用带有注意机制的记忆模块来捕捉不同阶段潜雨条纹背景特征并重建干净图像；而深度监督的多尺度鉴别器则在判别器输出端对重建图像上层细节特征与输入图像局部细节特征进行了精确匹配约束。与传统方法相比该模型不仅保留了重建效果但显著提升了模型鲁棒性并通过引入多尺度监督降低了训练难度同时提高了收敛速度。
主要创新之处：
1、通过结合CycleGAN与单幅图像去雨技术，在无配对数据的情况下实现有效的雨水去除。
2、基于一种融合粗细尺度信息的多尺度注意记忆生成器，在密连网络中整合上下文信息，并通过递归利用未配对训练数据来学习雨纹特征。
3、多层级深度监督鉴别器旨在使生成图像在细微纹理和整体架构上与目标图像尽可能一致。
网络结构
相对于AttentiveGAN而言，在这里运用了DenseBlock模型，并且判别器采用了多尺度设计。 denseblock ：
相对于AttentiveGAN而言，在这里运用了DenseBlock模型，并且判别器采用了多尺度设计。 denseblock ：
具体实现
可微程序设计
本文工作属于微分规划系列，在其框架下将程序参数化表示并实现自动求导与优化过程。
经典LISTA方法通过展开L1求解器ISTA为一种简单易懂的RNN结构，并将迭代次数与权值对应起来以实现高效的优化计算。
不同于传统基于变量的传统难以解析的RNN微分规划方法，在本研究中我们采用了一种基于先验知识的设计方案来重构图像退化模型
注意力记忆网络
使用注意力代替递归网络。
多尺度深度监督判别器
网络架构采用梯度递增的方式依次连接不同通道数（64→128→256→512）的卷积特征提取器进行信息聚合。
其卷积特征图经由带LeakyReLU激活函数的归一化层进行传递，并被送入下一个深度可分离卷积操作。
在此基础上，在输出端增加经过Sigmoid函数处理的一维卷积模块，并对各分割区域的概率分布进行映射。
从而生成多级预测结果，并通过多级监督机制实现对低频细节与高频特征的有效融合。
目标函数
损失函数
分页