Advertisement

经典的卷积神经网络结构

阅读量:

经典的卷积神经网络架构在医学影像分析领域已广为熟知,在针对结直肠癌组织纹理特征的分类任务开发过程中发现,在传统架构基础上构建更为复杂的深度学习框架具有显著优势。通过引入更高层次的模块化设计与多尺度特征提取技术等手段能够显著提升分类性能表现更为优异的深度学习框架均可配备成熟的网络架构以及系统化的训练方案便于将预训练模型迁移到特定的数据集进行微调。
这些基于传统框架的改进主要包含以下四个方面:

  1. 增加多模态融合机制以整合不同来源的医学影像信息
  2. 引入自适应计算资源分配策略以提高模型处理效率
  3. 采用动态注意力机制增强对关键区域特征的关注度
  4. 应用先验知识引导监督学习过程以提高分类准确性
  • 网络加深
  • 增加卷积层的功能
  • 从分类任务到检测任务
  • 增加新的功能模块

下面详述这几个经典模型:

1.AlexNet

创新:

  • 防止模型过拟合的技术包括数据增强(通过对其现有数据集进行一系列基础变换如水平翻转、旋转和缩放等来扩展数据集)以及使用Dropout机制。
  • 网络的GPU实现通常涉及将其分布至两个或多个GPU上,并且在某些关键层之间实现了通信以确保信息传递的有效性。
  • 非线性激活函数通常采用RELU而非Sigmoid函数。
  • 基于包含120万张ImageNet图像的数据集进行训练。
在这里插入图片描述
2.VGGNet

VGG-Net可以被视为AlexNet的一个深化版本,并均包含五个卷积组。然而,在网络结构上存在显著差异:与其相比(即AlexNet),其结构更为复杂(AlexNet共有8个卷积层,在此基础之上增加了多达^{a} ^{b} ¹⁰ 至¹⁹个额外卷积层)。此外,在滤波器深度方面也有所提升(多数滤波器数量在逐层递增)。如图所示为五种典型的VGG-Net架构设计示意图。值得注意的是,“使用最多的包括 VGG-¹⁶ 和另一个版本也叫作 VGG-¹⁶”。

在这里插入图片描述
3.GoogLeNet

相较于现有的CNN模型,在深度与宽度上均实现了增强。其中,深度被扩展至第22层(为防止梯度消失现象,在网络架构中两处植入损失函数模块),并提出采用Inception的网络架构。

最原始的设计理念是将多种尺寸的卷积核整合在同一层中,在提升网络处理能力的同时增强了模型对不同尺度物体或图像的理解能力。在设计中采用了单双曲面滤镜组合的主要目的是实现特征精确对接。当设置卷积步长为 stride=1时,则通过设置填充量分别为 padding=0, 1, 2来实现 same convolution操作,并将各子模块输出通道数相加形成最终特征图

在这里插入图片描述

但是这种结构中的5\times5深度可学习卷积的计算量过大,并如图所示:(图来自添加链接描述

在这里插入图片描述

考虑采用1*1的卷积核来降维

在这里插入图片描述

所以最终的Inception 网络结构:

在这里插入图片描述
4.ResNet

ResNet由158个层级构成;通过设计巧妙的结构来解决网络过深导致的问题;通过引入残差连接机制;其输出与前一层的输出进行叠加;从而提升了模型的训练效率;显著降低了分类错误率:

在这里插入图片描述

全部评论 (0)

还没有任何评论哟~