Advertisement

深度学习论文: GhostNets on Heterogeneous Devices via Cheap Operations及其PyTorch实现

阅读量:

深度学习论文:GhostNet在异构设备上的高效设计及其PyTorch实现
PDF版本:https://arxiv.org/pdf/2201.03297.pdf
模型实现:https://github.com/shanglianlm0525/CvPytorch
框架实现:https://github.com/shanglianlm0525/PyTorch-Networks

1 概述

进一步探讨GPU设备高效网络的优化。在无需过多关注GPU低效操作(如深度卷积)的前提下,在不引入复杂计算负担的情况下

  • 将之前基于CPU的GhostNet扩展至支持GPU服务器。
    • 从基于卷积冗余的结构升级为layers或blocks的冗余结构。

本图显示输入图像通过ResNet34在第三阶段的第一个模块和最后一个模块生成的特征图,并包含大量成对相似的特征图。

在这里插入图片描述

2 G-Ghost Stage

下图b和c分别为提出的G-Ghost Stage以及加入mix操作的G-Ghost Stage。

在这里插入图片描述

mix 操作用于内在特征聚合(intrinsic feature aggregation ):

在这里插入图片描述

\tau 的具体实现为:global average pooling后接一个全连接层。

3 G-GhostNet

在这里插入图片描述

全部评论 (0)

还没有任何评论哟~