Channel Agnostic End-to-End Learning Based Communication Systems with Conditional GAN 阅读笔记
abstract
背景：
本文主要围绕开发一种基于深度神经网络(DNNs)的无线端到端通信系统展开。该系统采用了深度神经网络(DNNs)对所有与信号相关的功能进行处理，并具体包括编码、解码、调制和均衡技术。值得注意的是，在计算DNN表示时所需的梯度依赖于准确估计动态变化的信道传递函数。
在众多通信系统领域内，信道传递函数难以在事前准确获取，并且其值会随着时间以及空间的变化而发生改变。
研究目的：
希望构建一个基于信道信息未知的端到端通信系统，在无需特定信道传输功能知识的情况下实现多信道效果的学习机制。
研究方法：
- 本文中, 通过构建与通道无关的端到端系统来解除这一限制, 该系统无需任何关于信道的先验知识. 我们采用条件生成对抗性网络(GAN)来表征信道效应, 其中发送器的编码信号充当条件输入.
- 此外, 为了处理动态变化的信道环境, 还可将与导频数据相关的接收信号作为调节参数的一部分加入.
三大贡献：
我们的主要贡献有三个方面。
在本研究中, 我们对信道条件分布p(y|x)展开建模, 从而能够根据数据而非信道专家知识来学习信道效应. 在本研究中, 我们在时变信道调控信息框架下引入导频信息, 从而能够生成特定于该通道的样本. 我们提出了一种基于端到端学习的通信系统模型, 通过带有条件约束的信息对抗网络（CGAN）模型将端到端损失梯度有效地传播至发射机单元.
MODELING CHANNEL WITH CONDITIONAL GAN
提出问题：
端到端通信系统通过DNNs学习接收机和发射机的实现。然而，用于训练dnn权值的反向传播(back-propagation)被信道阻塞，阻碍了端到端网络的整体学习。
解决问题：
A. Conditional GAN
GAN作为一种新兴的分布学习生成技术，在理论上旨在训练一个能够生成与特定目标分布相似样本的数据生成模型。记作pdata。基于此方法，在本系统中我们通过GAN算法对信道输出的概率密度函数进行建模，并在此过程中采用所学模型作为模拟真实信道的有效替代方案。随后，在训练发射机的过程中将该模型作为模拟真实信道的有效替代方案
GAN的结构如图3所示，并采用了最小-最大两人博弈的机制。其中，鉴别器D负责区分生成器G生成的数据与真实数据集中的样本数据；与此同时，生成器G则致力于通过不断优化模型参数，在欺骗鉴別网络方面取得进步。
GAN 优化的目标：
条件GAN优化的目标：
旨在优化基于条件的生成对抗网络（GAN）模型：当生成器G和判别器D均接受额外信息m作为输入时，则可将基于条件的遗传算法扩展至相应的模型框架中。如图4所示展示了该方法的结构设计。进而只需将该调节信息m作为额外输入分别馈送给生成器G和判别器D即可实现目标。
因此，在条件下的情况下生成器G的输出为G(x|m)；判别器D在条件下的情况下的输出为D(x|m)。该优化目标被转换为最小化与最大化的过程：
在我们设计的端到端系统中,通过引入条件生成对抗网络(GAN)以模型化信道输出分布为目标,并使该信道的输出分布具有与编码信号以及接收导频数据相关的调节参数.
Modeling Channels
GAN是学习分布的有力工具，信道输出y，给定输入x，由条件分布p（y | x）决定。
基于x作为条件信息的引入,我们旨在运用条件GAN模型来学习信道的输出分布.生成器致力于产出与真实通道输出相似的样本序列,而判别器则专注于分辨由真实通道产生的数据与由生成器生成的数据.
瞬时信道状态指示（CSI）量H可被视为来自大信道集H的一个样本，并且也是接收机数据中的重要相干检测。为了估计CSI，在传统做法中会向接收机发送一些导频信号以便利用接收到的导频信号yp来推断信道参数。在我们提出的方法中，在捕获到的导频信号yp的基础上进行处理，并据此计算出相应的x值及相关的导频数据yp。
III. END-TO-END COMMUNICATION SYSTEM
基于条件生成对抗网络（GAN），其梯度能够逆向传播至发射装置。在此研究的基础上，在信息理论与深度学习框架下，在有限离散符号集合中提取传输符号并将其编码为长度相同的单热点向量s；随后将其建模为一个具有M个类别输出的分类任务；接收器输出的概率分布向量ˆs涵盖了所有可能类别的可能性；其损失函数由接收端计算得出：交叉熵损失函数定义如下
其中Sn和ˆSn分别表示s和ˆs的第n个元素。
所提出的端到端通信系统的训练和测试如图5所示。
在训练过程中收集数据，在这一过程中包括两部分：其一是在每一轮迭代中实现发送端与接收端之间的通信实验；其二是在每一轮迭代中实现接收端与发送端之间的通信实验；这两者分别对应着不同的通信场景设置；在这样的设计下可以有效提升通信系统的性能表现；同时这种设计也使得整个通信系统具有良好的扩展性
当训练接收器和发射器时
A. Training Receive
B. 训练发送模块
作为替代通道使用的信道生成器，在其训练过程中与其接收到的信息进行比较以优化性能。计算用于评估生成信号质量的端到端交叉熵损失函数，并通过条件GaN模型传递相应的梯度回传至发送模块。其中发送模块参数更新采用SGD算法进行迭代优化；而生成器与接收机网络参数不参与优化过程。
C. Training Channel Generator
信道生成器协同训练于鉴别器。基于所学习的发射机能够实现其编码信息通过真实信道获取真实数据，并能基于信道生成器产出的编码信息合成伪数据。优化的目标函数如公式(2)所示。