【CV论文笔记】ShuffleNet: An Extremely Efficient Convolutional Neural Network for Mobile Devices

本文主要用于介绍旷世于2017年提出的一种轻型网络ShuffleNet。本笔记主要为方便初学者快速入门,以及自我回顾。

论文链接:https://arxiv.org/pdf/1707.01083

基本目录如下:

  1. 摘要
  2. 核心思想
  3. 总结

------------------第一菇 - 摘要------------------

1.1 论文摘要

本文提出了一种计算效率极其高效的CNN架构模型,名为“ShuffleNet”,该网络是专门被设计用于那些计算资源有限的设备。新的架构采用了2种新的操作,pointwise group convolution和channel shuffle,极大的减少了计算的时间耗时,同时还保证了高的准确性!在ImageNet的图片分类实验和MS COCO的目标检测上都比MobileNet的表现要好。在一台ARM芯片的手机设备上,shuffleNet相比于AlexNet快了13倍,同时还维持了很好的正确率。

------------------第二菇 - 核心思想------------------
作者认为现有的一些先进架构比如Xception和ResNeXt正变的越来越低效,因为大量的1*1卷积消耗了大量的计算资源,因此论文才提出来了逐点群卷积(pointwise group convolution)的概念,但是该种卷积方式也有很大的弊端,即通道之间的信息不再有连接,因此,为了克服这种弊端,作者又提出了一种混合通道(channel shuffle)的操作办法。

2.1 Channel Shuffle for Group Convolutions

熟悉卷积操作的同学,应该能理解1*1卷积耗时的地方,因为每一次都需要对每一个通道进行卷积后再进行相加操作,而这也正是最耗时的地方,因此我们需要一种通道稀疏的连接(channel sparse connections)。因此,逐点组卷积的意思就是对输入的通道进行分组,每一个卷积核只负责其对应的输入通道,从而减少了通道之间的连接操作(By ensuring that each convolution operates only on the corresponding input channel group, group convolution significantly reduces computation cost. )。最极端的操作,其实就是。。。一个输入通道对应一个卷积核哈哈哈(差不多类似MobileNet里提出的Depthwise Conv)。。。因此,这里有个巨大的弊端就是,通道之间的信息不能够融会贯通了,这是很致命的~如下图左1所示,

示意图.jpg

这里就有一种融合的办法啦,那我们从别的通道里面拿信息不就好啦~如上图b所示,当然这是很好的想法,但是其在操作层面,其实是比较麻烦的~因此,作者提出了一种更高效的解决办法,那就是如上右图所示的,channel shuffle operation,其具体的操作我们可以描述为,

1)假设输出为g*ng代表group数量
2)reshape为g*n,再转置为n*g
3) 再展开分组

以上过程,我从网上盗了一张示意图【1】,用以加深大家的理解,

混洗通道操作示意图.jpg

至此,整一套“骚”操作已经介绍完毕了,接下来我们具体看一下每一个单元的具体架构。

2.2 ShuffleNet Unit

直接上一张原论文中的图,

单元模块架构图.jpg

图应该是画的比较直观了~其他的一些模型架构就不展开了,有兴趣的同学看原论文,写的很清晰了~主要是理解了channel shuffle的操作,其它就都很简单~(ps. 参考文献1的博主还献上了源码解析)

------------------第三菇 - 总结------------------

3.1 总结

到这里,整篇论文的核心思想已经说清楚了。本论文主要提出了一种轻型的网络架构ShuffleNet,并实验证明了该网络的可行性,为后续发展奠定了基础。

简单总结一下本文就是先罗列了一下该论文的摘要,再具体介绍了一下本文作者的思路,也简单表述了一下,自己对整个ShuffleNet网络,尤其是其中的channel shuffle操作做了细致的阐释。希望大家读完本文后能进一步加深对该论文的理解。有说的不对的地方也请大家指出,多多交流,大家一起进步~😁

参考文献:
【1】https://blog.csdn.net/u011974639/article/details/79200559

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 158,233评论 4 360
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,013评论 1 291
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 108,030评论 0 241
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 43,827评论 0 204
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,221评论 3 286
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,542评论 1 216
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,814评论 2 312
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,513评论 0 198
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,225评论 1 241
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,497评论 2 244
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 31,998评论 1 258
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,342评论 2 253
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 32,986评论 3 235
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,055评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,812评论 0 194
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,560评论 2 271
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,461评论 2 266