轻量化分割模型-RTSEG

摘要

        本文针对于实时网络分割,针对于编码和解码模块设计出了可以灵活替换的子模块,方便大家可以方便的替换编码或者解码模块,从而针对不同任务设计不同的网络结构。


Fig.1 RTseg结构图

        如图1所示,文章提出的实时的语义分割基准测试框架是一个编码-解码结构。作者指出之前的研究都是将网络作为一个整体来进行对比研究,而没有比较不同的模块之间的效果,因此不能使得研究者和网络搭建者去针对任务需求选择最适合的网络设计。通过将编码器和解码器进行解耦设计来分别对编码器和解码器进行设计。图1可以看出,作者在编码器模块,采用了VGG16、ResNet18、MobileNet和ShuffleNet。在解码器模块上使用的是UNet、SkipNet和Dilation Fronted。


解码器模块介绍


Fig.2 利用MobileNet作为编码器的不同解码器结构

        图2中是以MobileNet为编码器的不同解码结构,所有的网络结构中的下采样率都是32,下采样实现的方式是通过池化或者是改变卷积的步长实现的,这确保了不同的解码器结构具有统一的下采样率,以仅评估解码方法的效果。

        图2(a)是SkipNet的解码结构,类似于FCN8s的结构,其中较高高分辨率的特征图通过1x1卷积来将通道数量减少到最终的类别数量,每一个通道都对应着一个类别。

        图2(b)是UNet的解码结构,Unet结构提供的解码方式为:利用反卷积,将与下采样阶段对应的特征图进行上采样。上采样的特征图与下采样中有相同分辨率的特征图进行融合。逐级向上采样提供的精度比一次8倍向上采样的精度更高。目前采用的融合方法是逐元素相加,concatenation的方法可以提供更高的准确率,因为其确保了网络能够学习特征的加权融合,但是这样会增加计算量(concatenation会改变通道数量)。上采样之后的特征最后会接一个1x1的卷积来输出最后的逐元素分类。

        对于Dilation Frontend的解码结构,文中并没有给出示意图,Dilation Frontend结构利用了空洞卷积来取代下采样。空洞卷积确保了网络能够保留足够的感受野的同时,不会降低特征图的分辨率。但是副作用就是计算量的增加,修改编码器网络使得下采样率从32变为8。下采样的减少是通过删除池化层或将步幅为2的卷积转换为步幅为1的卷积来完成的。然后,将池化或正常的卷积替换为两个空洞率为2和4的空洞卷积[3]。


实验结果



Fig.3SkipNet-MobileNet和UNet-MobileNet的速度对比
Fig.4 不同的解码-编码模块组合在cityscapes validation数据集上的对比

        从图4的实验结果可以看出,Dilation Frontend解码器的表现不如UNet,是因为Unet采用的是逐级向上采样,而DF采用的是一次性的八倍上采样。就网络而言,采用UNet进行增量上采样的方法可提供最佳的准确性。 但是,图3中的表2清楚地表明,SkipNet体系结构的计算效率更高,GFLOP减少了4倍。 这可以通过以下事实来解释:与SkipNet中只是将反卷积用在了最后的类比特征输出中,而UNet中的反卷积则是应用于特征空间中。 图4显示,粗略的预训练可将总体mIoU提高1-4%。 表现力不足的类别是受益于预训练模型的代表之一。


Fig.5不同网络在cityscappe测试集上的对比

        图5表明,在准确率上,Deeplab依旧是拥有最好的结果,但是在计算速度上却非常差,SkipNet-ShuffleNet相比于ENet,在准确率相差不大的同时,拥有更快的推理速度。SkipNet-ShuffleNet和SkipNet-MobileNet在速度和精度上都要完胜SegNet。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 143,736评论 1 303
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 61,631评论 1 258
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 95,145评论 0 213
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 41,213评论 0 181
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 49,025评论 1 259
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 38,893评论 1 178
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 30,497评论 2 273
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 29,240评论 0 167
  • 想象着我的养父在大火中拼命挣扎,窒息,最后皮肤化为焦炭。我心中就已经是抑制不住地欢快,这就叫做以其人之道,还治其人...
    爱写小说的胖达阅读 29,114评论 6 235
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 32,596评论 0 213
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 29,363评论 2 215
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 30,717评论 1 232
  • 白月光回国,霸总把我这个替身辞退。还一脸阴沉的警告我。[不要出现在思思面前, 不然我有一百种方法让你生不如死。]我...
    爱写小说的胖达阅读 24,279评论 0 32
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 27,183评论 2 214
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 31,629评论 3 209
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 25,647评论 0 9
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,047评论 0 167
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 33,625评论 2 232
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 33,734评论 2 236

推荐阅读更多精彩内容