Advertisement

[剪枝]Pruning Filters for Efficient ConvNets

阅读量:

Pruning Filters for Efficient ConvNets

已复现:https://github.com/onion-rain/MCTS:

_python filter_pruner_exp.py --architecture vgg16-bn-cifariii --gpu five --load-weights checkpoints/baseline/cifarii-vgg16-bn-cifarii-best.pth.tar --pruning-rate 0.3 --l-p-norm i

剪枝权重绝对值之和最小宽度的卷积核
通过计算并排序各层卷积核权重绝对值之和绘制图形a
筛选并去除部分具有较小权重绝对值之和的滤波器群后分析去留后的网络性能变化,并记录结果于表b中

  • 识别现有的某一层为不敏感(non-sensitive),同时将该不敏感的一层层进行删除
  • 扣除上一层某些卷积核所引起的下一层特征图通道数量的变化,在计算当前下一层卷积核权重绝对值总和时需要考虑
  • 采用贪心剪枝策略而非独立剪枝方法(greedy pruning instead of independent pruning)
  • 针对残差网络结构,在执行第二层卷积剪切操作时需依据shortcuts上的剪切策略进行决策
  • 逐层卷积,剪完一层retrain一下,而不是剪完所有层一起retrain

全部评论 (0)

还没有任何评论哟~