论文学习21“Semi-supervised Segmentation of Optic Cup in Retinal Fundus Images Using Variational Autoe...

这是我入AI读的第一篇paper,很简单却很经典的思路。

1.题目:Semi-supervised Segmentation of Optic Cup in Retinal Fundus Images Using Variational Autoencoder(使用VAE对视网膜光学杯进行半监督分割)

2.Paper来源:MICCAI 2017;作者,IBM实验室。

3.背景:这篇文章是对视杯进行分割,对于青光眼等疾病中,杯盘比(C/D)是指视乳头直径与其中的小凹的直径之比。它客观的反应了视神经的状况,当C/D大于0.5时可能诊断视神经萎缩,需要找出原发病(比如青光眼)。正常人的C/D一般在0.3左右,不超过0.5。所以视杯的分割尤其重要。而目前用于视杯的分割是因为不清楚和不均匀的边界使其分割非常具有挑战性。完全监督的方法需要大量的注释图像来实现合理的鲁棒性和准确性,这通常是不可取的,因为它可能是耗时且昂贵的。半监督方法通过利用大量未标记的数据以及标记的数据来解决这个问题,以提高性能。所以本文采取半监督的分割方式,使用变分自动编码器(VAE)作为生成模型。

4.方式:从大量未标记的数据中训练生成模型。然后,从生成模型嵌入的特征被并入分割模型中,使得可以从有限数量的标记图像训练分割模型。我们使用变分自动编码器(VAE)作为生成模型,根据低维潜变量对每个观测值进行建模。VAE有两部分:将输入入图像映射到连续潜在变量z的编码器网络,以及使用潜变量z来重构图像的解码器网络。

GVAE使用神经网络模拟图像的概率分布,由两部分组成: 生成编码器(GE)和生成解码器(GD)。GE将图像x作为输入,输出平均值μg和标准偏差σg。GE使用具有五个卷积层的卷积神经网络建模,其中每个卷积层之后是最大池层,其有效地将特征响应的尺寸减小一半。 然后将两个密集层附加到从最后一层的特征响应,以输出σz和μz。GD网络由五个网络内反褶积层组成,其采用潜在表示z并重构图像x。使用由变分下限给出的以下损失函数对GVAE进行训练:

p(z)是球面高斯分布p(z)= N(0,I),作为编码器网络的输出的后验分布qφ(z|x)也是高斯分布,所以上式第一项可以转换成:

SVAE的目标是通过利用GVAE学习的特征嵌入来预测来自给定图像的光学杯的分割掩模。与GVAE类似,SVAE由两部分组成:分段编码器(SE)和分段解码器(SD)。 SE使用五个卷积块和最大池层,然后是两个输出σv和μv的密集层进行建模

使用以下损失函数训练SVAE网络:

其中第一项是KL散度,根据p(z)是球面高斯分布p(z)= N(0,I),可以转化为:

第二项是表示预期的重建误差,可以使用二进制交叉熵计算的分割掩模,β表示SD网络的参数,第三项是在GE和SE产生的潜在代码之间欧几里德距离损失。

5.算法

6.实验

本研究中使用的数据集由EyePACS1提供,包含12000个高分辨率眼底图像。我们选择600张图像来创建一个标记的集合,其中通过临床医生手动描绘所有图像的杯区域来获得地面真相。剩余的11400张图像用作未标记的集合。

将标签集合分为400个训练和200个测试集。为了评估培训样本数量的效果,我们进一步将训练集划分为四个包含50,100,200,400个样本的子集。首先用20000次迭代的未标记集训练生成模型(GVAE)网络。我们使用带有动量和批量大小为50的RMSprop算法使用小批量梯度下降,学习速率设置为0.001。

使用算法1中描述的训练的GVAE来训练使用标记集的分割模型(SVAE)。使用小批量梯度下降训练了10000次迭代的SVAE网络,并且学习率为0.0001的Adam优化器。

7.结果

比较所提出的SVAE,Unet方法和SAVE-Plain的地面实数和预测分段之间的平均骰子系数(DC),结果如下:

结果表示,本文的方法在完全训练集后平均DC为0.80,略高于Unet和SVAE-Plain。然而,当我们使用较少数量的训练样本时,所提出的方法在Unet和SVAE-Plain都显着改善。这表明当标记图像的数量有限时,所提出的方法提高了分割性能。

下图为分割结果,红色是真实的视杯,绿色是本文方法分割出来的视杯。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 157,298评论 4 360
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 66,701评论 1 290
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 107,078评论 0 237
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 43,687评论 0 202
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,018评论 3 286
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,410评论 1 211
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,729评论 2 310
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,412评论 0 194
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,124评论 1 239
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,379评论 2 242
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 31,903评论 1 257
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,268评论 2 251
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 32,894评论 3 233
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,014评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,770评论 0 192
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,435评论 2 269
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,312评论 2 260

推荐阅读更多精彩内容

  • 文章主要分为:一、深度学习概念;二、国内外研究现状;三、深度学习模型结构;四、深度学习训练算法;五、深度学习的优点...
    艾剪疏阅读 21,641评论 0 57
  • 摘要:在深度学习之前已经有很多生成模型,但苦于生成模型难以描述难以建模,科研人员遇到了很多挑战,而深度学习的出现帮...
    肆虐的悲傷阅读 11,129评论 1 21
  • Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智...
    卡卡罗2017阅读 134,087评论 18 139
  • 旅游项目报告 假设A旅行社欲寻找一家航空公司并进行长期合作以降低成本,小组将对旅行社收集的数据进行分析,得出结论。...
    godsaveme阅读 388评论 2 3
  • 我买了两个 一个原味一个抹茶味的 因为第二个半价啦啦啦 五层夹心不是盖的~ 但是面包太糙 让口感有所下降 抹茶的味...
    夏值阅读 464评论 0 0