深度学习论文: GhostNets on Heterogeneous Devices via Cheap Operations及其PyTorch实现
发布时间
阅读量:
阅读量
深度学习论文:GhostNet在异构设备上的高效设计及其PyTorch实现
PDF版本:https://arxiv.org/pdf/2201.03297.pdf
模型实现:https://github.com/shanglianlm0525/CvPytorch
框架实现:https://github.com/shanglianlm0525/PyTorch-Networks
1 概述
进一步探讨GPU设备高效网络的优化。在无需过多关注GPU低效操作(如深度卷积)的前提下,在不引入复杂计算负担的情况下
- 将之前基于CPU的GhostNet扩展至支持GPU服务器。
- 从基于卷积冗余的结构升级为layers或blocks的冗余结构。
本图显示输入图像通过ResNet34在第三阶段的第一个模块和最后一个模块生成的特征图,并包含大量成对相似的特征图。

2 G-Ghost Stage
下图b和c分别为提出的G-Ghost Stage以及加入mix操作的G-Ghost Stage。

mix 操作用于内在特征聚合(intrinsic feature aggregation ):

\tau 的具体实现为:global average pooling后接一个全连接层。
3 G-GhostNet

全部评论 (0)
还没有任何评论哟~
