论文阅读笔记1——From Adversarial Training to Generative Adversarial Networks
Starting from adversarial training, the development of generative adversarial networks has been a significant advancement in machine learning.
原文链接：https://arxiv.org/pdf/1807.10454.pdf
- 贡献：
基于GAN框架及其对抗训练策略的基础上构建一个新的模型架构AdvGAN，在同一个深度学习网络中整合了生成器、判别器以及对抗攻击机制。该模型通过协同训练过程（co-training）以及优化步骤（fine-tuning）实现对生成图像质量的持续提升，并显著增强其在复杂对抗场景下的识别准确性。
- 技术：
第一阶段：全连接生成对抗网络（GAN）的端到端训练过程包括以下步骤：首先通过生成器作用于真实数据集产生虚假图像，并将这些虚假图像输入判别器；与此同时，原始数据经受对抗扰动处理后再投入判别器进行特征提取；接着判别器旨在最小化来自真样本与假样本的分类损失以及类别区分损失。
第二阶段：用真实图像和生成图像精炼判别器
采用AC-GAN[1]结构，改进了loss函数。
AC-GAN的loss函数包含两个部分：
判别器被配置以使目标函数...达到最大值；同时使L_c值被进一步提升；即使生成器产生了难以区分的图像样本；该判别器仍需根据其特征对其进行分类处理。
Adv-GAN将Lc拆成两项：
判别器最大化Ls+Lc1，生成器最大化Lc2-Ls
优点：利用无限多的人工合成图像进行数据增强操作后，在对抗训练场景下展现出更强的表现力；基于GAN的方法在提升模型鲁棒性方面取得了显著进展，并且其收敛速度也得到了明显改善（但目前尚无法深入解析其背后的理论支撑）；优化损失函数后能够有效提升生成图像的质量
缺点：可能只能抵御某种对抗攻击
参考文献：
[1]Conditional Image Synthesis With Auxiliary Classifier GANs.