Semi-supervised Deep Learning for Fully Convolutional Networks文章解读

目前对于FCN分割领域仍缺乏有效的半监督学习方法。本研究引入了辅助流形嵌入概念,在随机特征辅助框架下成功应用于FCN的半监督学习任务中,并通过现有方法对现有MS lesion分割任务进行了系统性实验验证。
1 引言

在本文中,我们将辅助流形嵌入的概念引入到全连接网络(FCN)中,并将其命名为"随机特征嵌入"这一创新的方法。随后,在处理具有挑战性的医学图像分割领域时,我们成功应用所提出的半监督微调嵌入技术于FCN并取得了显著进展
2 方法论


这里首先对符号进行了定义和说明;
2.1 Auxiliary Manifold Embedding

本文指出了两个损失项的具体定义:Lp用于表征有标签数据(Dice-loss),而LE则用于表征无标签数据(auxiliary manifold embedding loss);其中LE基于有标签与无标签数据共同提取出的关键信息特征表示h(.)这一框架,并旨在最小化潜在特征空间中相似输入之间的差异
总的代价函数可用公式1来表示,1式代价函数的旨在最小化

LE的定义基于公式2的实现;在训练batch内嵌样本nE间构建邻接矩阵的框架下,我们定义了两个latent特征表示之间的距离度量;为了量化这种关系的具体程度,在本研究中我们采用angular cosine distance(简称ACD)作为距离度量方法。
文中的意思是允许用户设定为任意值。本文将采用以下英文描述的方式设定A的具体含义。

2.2 随机特征嵌入

由于大规模图像中所有像素点的 h(.)计算及比较复杂度较高,在实际应用中难以实现。为此, 本研究则提出了一种基于随机采样的新策略, 以显著减少计算负担
随机特征嵌入(RFE): 基于某种在下一节将讨论的采样方法,在当前批次中限定数目地选取nE个像素来自其特征图中。该损失能够维持其有效性, 因为我们仅传播所选像素对应的梯度信息.
采样策略: 在理想情况下, 采用随机抽样方法从嵌入空间中抽取样本, 其分布应尽可能模拟如图2所示的各种嵌入形式, 同时需注重类间分布情况, 以防止模型中引入不必要的偏向性. 因此本文提出了一种新的采样策略.
以下就是本文开发的随机采样策略方案:

3 实验和结果
