Intelligent Resource Allocation in Wireless Communications Systems（阅读笔记）
无线通信系统中的智能资源分配、
abstract
DL（深度学习）作为机器视觉系统的核心技术之一，在 WCS（自动驾驶汽车视觉系统）设计领域带来了革命性的转变。过去的设计更多依赖于传统手工开发的方法论，在这些方法下构建的是基于假设性数学模型的人工智能解决方案。而现在则呈现出一种全新的发展趋势：通过大量数据训练生成的数据驱动型自动生成系统取代了传统的手工开发模式。本文深入探讨了深度学习技术的关键要素及其应用场景，并着重研究了一种基于DNN（深度神经网络）的人工智能优化配置（RA）方案。通过仿真实验验证表明该方法具备最优性和可行性的同时还能有效应对多维度约束条件下的复杂优化问题。此外我们还深入分析了一些在实际应用中仍需解决的关键技术难题和挑战。
IntroductIon
深度学习（DL）是一种基于深度神经网络（DNN）的学科，在理解生物体内神经元运作机制方面现已成为公众讨论的焦点。近年来 DL 热潮之所以蓬勃发展，则得益于其在性能上显著优于传统方案[1、2]的特点。例如，在图像识别领域中基于 DL 的分类算法不仅能够实现比基于解析模型的人工常规方案更高的识别精度，在某些复杂案例中甚至能超越人类现有的认知水平[1、2]。值得注意的是 DL 并非仅局限于简单的分类应用，在更为复杂的认知任务中也展现出卓越性能表现。例如 DL 在理解语义场景方面的应用就取得了显著成效
深度学习的发展可能引发研究范式的转变,涵盖基于数学模型的传统方案设计以及基于学习的新方法,其中通过大量数据自主构建合适的设计方案（请参阅图.1）。传统的图像分类依赖于人工构建复杂的特征提取器,这些提取器经过精心设计并结合专业知识,例如边缘检测器等技术。然而,利用拥有丰富图像数据集的大规模深度学习模型能够生成更为精确的结果。
研究者最近已在无线通信系统（WCS）的多个领域应用深度学习（DL），特别是在流量与信道估计等分类任务方面取得了显著成果。研究表明，在文献[3]中明确指出可采用深度神经网络（DNN）精确识别数据流量类型。此外，在文献[4]中探讨了正交频分复用（OFDM）系统中基于深度学习方法实现信道估计与信号检测的技术。值得注意的是，深度学习也已被成功应用于更为复杂的任务领域，在文献[5]与文献[6]中分别开发了用于光无线通信系统的编码器与解码器以及稀疏代码多路访问（SCMA）技术架构。
DL的一个突出特点是深度神经网络（DNN）被视作一种强大的工具[7]，它具备能力近似各种连续函数，并能实现对复杂动态系统的建模。此外，在采用端到端的训练方法时会自然地构建优化模型[7]。
从这一角度看，在无线通信系统（WCS）中资源分配问题（RA）已获得了深度学习（DL）的应用，并且先前的研究已对其进行了深入探索。与传统方法相比，在传统方案中是基于一系列假设从分析系统模型中推导出最优策略的，在这些方案下必须依赖特定的前提条件才能获得最佳结果；而基于深度学习的方法则能够根据实际情况进行适应性调整因此可以直接利用实际渠道的数据获取最优策略从而在实践中展现出更高的性能水平。在基于深度学习的方法中即使通过调整信道增益参数[4,8]等关键变量也可以找到计算时间较短的最佳策略以实现通用求解器功能[7]。此外在文献[8]中为了最大化频谱效率或能量效率相关性能指标研究者采用了深度学习技术实现了最优发射功率控制策略无需明确推导出任何复杂的数学公式。
在本文中,我们着重关注深度学习在宽带接入系统（WCS）中实现智能放射状排列（RA）的应用。为此,我们首先阐述了深度学习的基本理论框架。随后,我们探讨了深度神经网络（DNN）的体系架构,并说明其可以通过训练获得适用于RA的通用策略,从而达到优化频谱效率和能源效率的目的,同时最小化发射功率,并在满足干扰控制和质量保证的前提下,服务用户需求（QoS）。在此研究的基础上,我们深入分析了基于深度学习的应用所面临的关键技术挑战
Fundamentals oF deep learning
在本节里，我们阐述了神经网络（NN）的基本组件与架构，并探讨其训练方法。随后转而分析深度学习（DL）与宽时变系统（WCS）中采用这些技术所带来的优势。
基于是否包含循环连接划分两种类型
overview on the training oF a neural network
一个神经网络的训练，即确定一个神经网络的权重和偏差，并不是简单的。事实上，由于缺乏合适的方法来寻找权重和偏差，自20世纪50年代首次开发网络神经网络以来，对网络神经网络的研究数量有所减少。20世纪80年代，一种有效的神经网络训练方法——反向传播算法[2]被开发出来，引发了第二次研究兴趣的激增。bp算法是基于梯度下降方法,神经网络的误差,也就是说,目标和输出之间的区别,传播方向向后更新重量和偏见根据梯度,例如,加强参数时,输出是正确的,并削弱他们的输出是不正确的。就一般机器学习算法的训练而言，神经网络的训练可分为三类。
Supervised Learning (SL):
在SL中，训练数据被标记，这样神经网络可以将其输出与ground-truth值进行比较。这种学习方式被广泛应用于分类方法中，例如认知无线电系统[9]的主要用户检测。
Unsupervised Learning (UL):
在UL中，数据是没有标记的，神经网络必须从输入样本(例如，聚类)中自主地获得有意义的特征。在[5]和[6]中，无线光通信和SCMA系统的编码器和解码器使用了UL的自编码器结构。
Reinforcement Learning (RL):
在RL中，神经网络的学习是通过试错来实现的。特别是，对于给定的输入数据，神经网络可以找到合适的动作，并且可以观察到对所选择的动作的奖励。然后，神经网络被训练来提供更好的行动，从而导致更高的奖励。在[10]上开发了一种基于RL的多址访问。
deep neural network and wireless communications systems
一段时期内，人们曾认为使用大量的层来训练一个神经网络非常困难，并即使采用反向传播算法也难以实现这一目标。这导致了对神经网络（参考文献[2]）研究进入第二个非生产期。近年来因为[2]所列的四个因素的影响，基于具有大量层的网络（即深度神经网络DNN）的应用已逐渐变得可行。
1、大数据集的可用性:随着传感器技术和互联网的快速发展,如今我们能够收集到所需的大规模数据集,从而让DNN系统得以学习系统的一般特征。其中,ImageNet数据库是一个包含超过150万张标注图像的巨大数据库,它的建立为深度神经网络在图像分类任务中取得显著成功奠定了基础。
2、更好的激活函数的使用:为了提升深度神经网络的表现,采用分段线性激活函数如整流线性单元(ReLU)或带漏项ReLU(Leaky ReLU)来替代传统的sigmoid等激活函数能显著提高其性能[11,12]。值得注意的是,采用分段线性激活函数可有效避免sigmoid函数梯度消失的问题,并且在计算上更加直观,从而能更高效地训练深度神经网络。
3、并行计算的开发:尽管单个输入数据的推断过程所需的计算开销较小,但由于训练数据量庞大,整个训练过程所需的时间可能会很长。然而,基于图形处理器(GPU)的并行计算技术的发展使得这一计算需求得到了显著缓解。
4、有效的初始化方法:初始化技术在深度神经网络中的作用至关重要,良好的初始化方法有助于实现高效的训练且避免陷入局部最优解[12]。近年来,限制玻尔兹曼机(RBM)和Xavier等有效的初始化方法的成功应用使得深度神经网络得以高效训练。
深度神经网络（DNN）在宽band通信系统（WCS）中得到广泛应用。它们通常处理海量数据，并依赖于一个高度复杂的系统架构来完成各种通信任务。然而这一复杂性也带来了挑战：传统的基于假设固定信道模型的方法在实际信道与假设不符时往往无法达到预期效果。特别值得注意的是，在传统的 WCS 框架中, 假设特定的信道特性可能会导致性能下降, 因此深度学习方法能够根据具体环境自适应地工作, 而无需依赖特定的渠道模型. 此外, 在图像分类任务中, 基于深度学习的方法可能比传统手工设计算法更好, 尤其是在问题复杂且难以解析求解的情况下[6、8、9]。
**
INTELLIGENT RESOURCE ALLOCATION BASED ON DEEP LEARNING
在本节中，我们将深入探讨基于深度神经网络（DNN）的智能资源分配（RA）机制。为此，我们将介绍我们的系统架构模型。该架构由多通道设备对设备（D2D）通信构成，并考虑到具体的通信协议设计。这些因素涵盖了传统无线通信系统的关键考量：如用户间的干扰管理、多信道协同操作以及服务质量保障等。随后我们将介绍用于实现资源分配优化的深度神经网络模型，并阐述其目标函数的设计框架及其性能评估指标的具体计算方法。为了验证该方法的有效性，在理论分析的基础上还将进行仿真模拟实验。
一旦选择合适的损失函数后可以通过现有优化算法进行训练。通过将当前信道增益信息传递至训练后的深度神经网络模块来计算各信道应分配的最佳发射功率。
系统模型和资源分配
我们研究一种基于具有底层D2D通信能力的多信道蜂窝系统的鲁棒自适应访问（RA），其中N个移动设备的数据传输过程与K个多信道蜂窝传输协同运行。
假设所有用户均匀地分布在区域D×D内。对于信道k而言，其第i个发射端子与第j个接收端子之间的信道增益可定义为hkij符号。
其中索引0专门用于标识蜂窝用户设备与基站之间的通信关系。系统模型如图2所示。
在设计中的资源分配机制(RA)中, 我们将为每个信道指派(DUE, 即D2D用户设备)分配射电功率, 称之为Pik. 这里的索引k与i分别代表信道与DUE标识符. 为了最大化系统效率(SE)、能量效率(EE)或最小化总射电功率, 其值必须确定. RA过程中需考虑以下三个关键约束条件: 首先, 每个信道上分配的射电功率强度必须非负, 并且所有单个信道射电功率强度之和不应超过最大射电功率限制PT; 其次, 所产生的干扰不应超过阈值IT; 最后, 所有D2D传输均需满足至少达到阈值RT的质量-of-service(QoS)要求. 更详细的数学表达式可在文献[13]中找到.
鉴于将RA表示为非凸问题时会遇到诸多挑战，在这种情况下难以通过分析确定最优解。为此我们转而采用基于拉格朗日松弛技术的迭代算法[14]。然而该方法涉及大量迭代运算可能导致计算时间显著延长进而可能导致实时性问题但另一方面在深度神经网络（DNN）框架下的RA设计中自动推导出高效的通用求解器主要依赖基本矩阵运算步骤从而能够显著降低计算复杂度无需依赖繁琐的手动迭代过程
资源分配基于深层神经网络
在我们的深度神经网络（DNN）模型中可通过信道增益hkij确定每个用户端设备（UE）的总发射功率以及各UE分配到各信道的发射功率比例等信息 使信道增益成为该模型的输入数据 同时将发射功率与功率分配参数作为输出指标。
我们采用了一个包含两个独立子网络的设计 即总发射功率预测网络（Tnet）与功率分配预测网络（Pnet），如图2所示。
为了优化训练效果 对原始信道增益数据进行了预处理 包括将其转换为dB单位后并进行了归一化处理 以满足零均值和单位方差的要求[8] 这些预处理后的通道增益参数作为Tnet与Pnet网络的数据输入。
Tnet和Pnet由子模块组成，这些子模块由完全连接（FC）层和用作激活功能的ReLU组成。鉴于Tnet的每个输出应小于最大发射功率PT，我们实现了一个Sigmoid，将其乘以Tnet末尾的PT值，其中Sigmoid的输出位于0到1之间。另一方面，分配给每个DUE的每个信道的发射功率的比例由Pnet确定，因此我们将N个softmax模块视为Pnet的最后一层，其中每个softmax模块具有K个输出。假设单个softmax模块的总和为1，则可以对分配给各个DUE的信道的发射功率的比例进行建模。最后，通过将Tnet和Pnet的输出相乘，可以找到分配给每个通道的DUE的发射功率。应该注意的是，具有不同权重和偏差值的相同DNN结构可以用于三个不同的目标，由于重用了相同的DNN结构，因此可以提高实践效率。为了找到最佳的权重和偏差集，必须首先对我们提出的DNN模型进行训练。为此，必须首先使用公知的信道模型通过测量或模拟来收集用于训练的信道样本。与基于SL的方案[7]不同，在我们提出的方案中，由于使用了UL，因此不需要每个信道样本的最佳发射功率进行训练，这可以大大减少准备训练数据的开销[8] ]。然后，可以基于反向传播算法对提出的DNN进行训练，在这些算法中，这些通道样本成为训练的输入。为了进行训练，为了在满足约束条件的同时达到目标，考虑了目标函数的加权总和，即总SE，EE或总发射功率，以及与约束条件有关的函数。在损失函数中，对于最大化问题，目标函数的权重应为负，因为训练了DNN模型以使损失函数的值最小化。而且，关于约束的函数应该是关于违反约束的增加函数，使得当满足约束时，DNN模型的损失函数的值减小。因此，可以在保证约束即干扰约束和QoS约束的同时训练DNN模型以实现期望的目标，例如SE的最大化。损失函数的详细公式可以在[13]中找到。确定适当的损失函数后，可以使用现成的随机梯度下降算法（例如，自适应矩估计算法）有效地进行DNN的训练。训练之后，可以通过将当前信道增益馈送给训练后的DNN来确定分配给每个信道的适当发射功率。
performance evaluation
我们发现，尽管带有SL的DNN具有更简单的结构，但我们提出的方案的性能更好，而且由于使用了UL，获得训练数据所需的开销也低得多。这些仿真结果证实了我们提出的基于DNN的RA的适用性和优势，因为它的计算时间比最优方案要短得多。
我们现在将所提出的基于DNN的RA的性能与使用穷举搜索（ES）发现的最佳性能进行比较，其中每个信道中的DUE的发射功率电平用Q等间隔值量化，并且检查量化值的所有组合。在模拟中，我们还考虑了使用[7]中提出的SL的基于DNN的RA，其中ES的发射功率电平用作标签数据。
最大发射功率，CUE的发射功率和DUE的电路功率设置为20 dBm。此外，带宽和噪声频谱密度分别设置为10 MHz和–174dBm / Hz。此外，IT = –50dBm，RT = 3 bps / Hz。此外，DUE和CUE随机分布在同一发射对的发射器和接收器之间的最大距离设置为15 m的区域上。我们考虑一个简化的路径损耗模型，该路径损耗模型的路径损耗系数为103.453，路径损耗指数为3.8，并且使用独立且均匀分布（即i.d.）的圆形对称复高斯（CSCG）随机变量进行多路径衰落，均值和单位方差为零。
对于所提出的DNN模型，我们假设TNET和PNET中的层数为4，并且FC层中的隐藏节点的数量为100.此外，通过模拟产生40,000个通道样本并用于训练。我们的仿真代码与进一步的仿真结果一起，可以在[13]中找到。
首先，我们将基于DNN的RA方案与ES的计算复杂度进行比较。应该注意的是，基于DNN的RA和ES的计算复杂度可以分别推导为O（N2K）和O（QNK），因此与基于DNN的RA相比，ES的计算时间增加得更快。在图3中，我们显示了当K = 3和Q = 5时，各种N值的测量计算时间。仿真结果证实，ES的计算时间随着K的增加呈指数增长，而基于DNN的计算时间则呈指数增长。方案保持在较低水平，即基于DNN的方案的计算时间少于0.7毫秒。尽管我们没有以图形方式显示此结果，但是对于大型网络配置（其中N = K = 50），我们提出的方案和基于SL的基于DNN的RA的计算时间分别为8.96和7.8毫秒，对于实时操作。
接下来，在不同面积D值下所获得的每个DUE的平均SE（记为SE_{avg}）、平均EE（记为EE_{avg}）以及总发射功率（记为PW_{total}），如图1和2所示。对于4a–c区域分别进行比较研究。在这里，默认情况下采用基于深度神经网络（DNN）的方法提出了一种改进型鲁棒性评估（RA）方案。该方案的目标是最大化平均符号错误率（Max.SE_{avg}）、最大化平均能量效率（Max.EE_{avg}）以及最小化总发射功率（Min.PW_{total})。为了便于比较分析，默认情况下还考虑了以下几种对比方案：当Q=5时的ES性能对比；基于SL-DNN的设计方案对比；以及一种随机确定发射功率的基准方案对比。假设系统参数设置为N=K=3，在此前提下通过ES搜索性能计算的时间成本在较大系统配置中无法满足要求这一假设下进行性能评估是合理的。值得注意的是，在较大系统配置下无法使用SL方法评估DNN性能的原因在于：训练所需的标签数据必须通过ES方法获取才能实现性能评估目标。根据仿真结果可以看出，在所有对比方案中随机确定发射功率的方法表现最差；这表明提出的RA方案具有较高的合理性和优越性。进一步分析发现：基于DNN设计的改进型RA方案在所有测试条件下均能实现接近最佳性能水平的具体数值表现方面表明：所提出的改进型RA方法在所有测试条件下均能实现接近最佳水平的具体数值表现方面也得到了验证——即无论是在何种情况下都能保证至少达到ES方法下的96.6%符号错误率（SE）。此外还观察到：随着面积增大SE与EE均呈现上升趋势——这是因为随着面积增大导致各DUE设备之间的部署更加稀疏从而降低了彼此间的干扰影响。“此外”还可以观察到：当区域大小发生变化时EE的变化幅度相对较小——这表明EE对区域大小的变化并不敏感。“此外”我们还发现：尽管引入SL后使得网络架构更加简单化——但基于DNN设计的方法仍能显著提升系统的性能表现——同时由于采用了统一接入层（UL）的方式使得获取训练数据所需的开销也大幅降低。“这些仿真结果充分证明了”基于深度神经网络设计的方法不仅计算时间上远低于最优解法——而且其实际应用价值也得到了充分验证。”
ReseaRch challenges
我们探讨了与在WCS中采用深度学习相关的若干未来研究挑战
conclutions
在本文中, 我们重点探讨了宽度补偿系统 (WCS) 中深度学习 (DL) 优先级高于传统数学建模的手工工程方法. 特别地, 在采用深度学习驱动的人工智能方法时, 我们成功获得了最优策略, 这一成果难以通过传统手段实现. 经过系统性性能评估验证, 基于深度神经网络 (DNN) 的人工智能方法能够在多种评价标准下, 以较短的时间实现接近最优的表现. 此外, 我们深入探讨了在WCS研究过程中应用深度学习面临的一些关键挑战