What Makes a Good Data Augmentation for Few-Shot Unsupervised ImageAnomaly Detection?

摘要：

在工业领域中，在面对商业竞争及获取样本困难等多方面因素制约的情况下

研究结果表明

1 引言

巴拉巴拉，然后。

本研究主要关注于数据增强方法在少射异常检测中的应用效果及其影响机制。其中 RegAD[9] 是当前少射异常检测领域中对数据增强方法影响研究较为深入且详实的一篇重要文献。在两个 IAD 数据集上我们系统地应用了四种不同的数据增强方法以期全面评估其效果特点。本研究旨在深入探讨数据增强技术在异常检测中的潜在作用机制并提出相应的优化策略。通过对 3 个 IAD 数据集分别实施 6 种独立的数据扩充策略并在 11 种 IAD 基础算法上展开测试我们建立了完整的实验体系以全面分析不同数据增强方案对算法性能的影响规律。具体而言我们在不同训练样本数量（包括 1、2、4 和 8 张）下进行了系列化实验最终形成了包含数千组实验结果的数据仓库系统性地总结了各类 IAD 方法在不同场景下的表现特征与适用范围。研究表明单一的数据增强方案难以满足所有无监督 IAD 算法性能提升的需求然而通过将多类 IAD 方法划分为若干功能模块并分析其内部特征关系我们发现基于模块化设计的数据增强方案能够较好地平衡各算法性能瓶颈从而实现整体性能提升效果显著优于传统统一方案尤其是在图像重建精度要求较高的情况下混合型的数据增强方案表现尤为突出但这种优势往往受到所选算法类型及其参数设置的影响存在明显的类别依赖性问题

我们对3个基准数据集进行了评估，并应用了6种数据增强方法以及11种图像异常检测方法；总共生成了6688个实例。另外一种灵活且高效的模块化实现方案被提出；它实现了对少弹IAD评估过程的支持，并显著提升了其适用性

本研究的重点是探究最适的数据增强策略及其适用性问题。值得注意的是，在分析现有算法时发现常用的IAD算法在面对不同数据增强策略时表现出相似的反应特性

我们的研究结果显示，在结合多种数据增强方法时其有效性主要取决于所采用的具体IAD方法的选择质量。进一步研究表明还存在一组与混合数据增强方案高度兼容的IAD方法可显著提升模型性能。

2 相关工作

异常检测的方法多种多样，在实际应用中主要可分为两种大类：一种是基于嵌入技术的研究方向（如文献索引 [2,3,18]），另一种则是以重构算法为核心的创新模式（参考文献 [28,32]）。其中归一化流模型 [18]、教师模型 [2]、单标签分类器 [24]以及记忆库模型 [3]构成了这四大类别的基础架构。下面将逐一阐述这些技术细节。

我就懒得粘贴了。。。

2.3数据增强

数据增强在少样本训练中发挥重要作用。它有助于模型从数据中提取更多特征，并提升性能。根据[29]所述，在基于图像擦除的数据增强方法中，通常会删除图中的某些区域，并将这些区域的像素值替换为常量或随机值。而基于图象混合的数据增强则通过融合多个图象生成一个新的图象。然而, 这些数据增强技术并不适合用于工业产品异常检测。（为什么呢）

3 benchmark设置

图1展示了用于训练异常检测模型的数据增强流程。我们对单个原始图片施用多种数据增强技术生成一系列增强版图片作为辅助样本集输入到训练过程中。这些经过处理后的样本帮助模型更加准确地学习识别正常数据的基本形态特征及其关键特性。随后将新生成的图片输入到训练好的模型中进行分析结果包括两个方面的信息：一是评估图片出现异常情况的可能性大小的置信度分数二是通过颜色标记突出显示可能存在的异常区域位置

觉得有些麻烦吗？可能是因为不想复制粘贴吧？其实我们主要专注于实验设置的核心部分——基于现有数据集展开测试。为了确保公平性，在实验中采用了经典的基准模型作为对比对象，并结合自定义的数据增强策略来提升模型性能。

4 实验结果和分析

本节的研究目标是全面评估数据增强技术对少样本IAD性能的影响。具体而言,我们将围绕以下几个关键问题展开探讨:数据增强如何影响不同类型IAD算法的性能?单独获得更好结果的数据增强方法在组合时是否也能提高准确性?是否所有的数据增强方法在不同的设置和场景中都表现出一致的效果?通过系统性实验,我们采用了第3.3节中详细描述的6种数据增强策略,结合第3.1节介绍的3个典型数据集以及第3.2节提到的11种基于实例的方法,进行了数千次实验以验证假设。（牛pi,肝帝）

(i)经过对多种IAD技术进行分析对比，在现有数据增量策略中尚未出现统一理想方案。(ii)研究团队归纳出每种IAD技术各自的最佳单一数据增强策略。(iii)通过实验研究发现，在基于内存库的系统架构下,采用混合的数据增广策略显著提升了图像级别的度量表现.

4.1. 单数据增强

如图1(a)、1(b)、1(c)所示，在实验过程中获得了大量且丰富的数据样本集。在这些样本中使用IAD算法时，默认最优的数据增强实例被标注为红色区域，而较优的数据增强则被标注为蓝色区域。

在理想情况下,我们预期显示表格中的一列由蓝色或红色单元格占主导地位,以表明相应的增强策略始终优于其他策略.然而,实际情况并非如此.相反,我们发现不同类型的增强策略对特定IAD算法的影响存在显著差异.由此可见,没有一种单一的增强策略能够普遍适用于所有IAD算法.造成这一现象的一个重要原因在于,不同IAD算法拥有各自独特的技术架构和功能模块;这些架构与功能模块可能与不同类型的数据转换产生复杂的相互作用.因此,为了深入探讨这一问题,我们将IAD算法按照其核心特征进行分类,并研究类似算法是否会对某些增强策略表现出相似的偏好或敏感性

在第3.2节中,我们将实验评估的11种IAD方法按照主要的技术或原则进行了分类,这些分类依据如表2所示.对于每一种IAD技术和每一种数据增强技术,我们计算了它们在所有数据集和所有射击次数上的图像级AUC-ROC平均提升值与无增强基准对比.通过分析发现,在每一类IAD技术类别中,影响其性能的作用方式存在一定程度的一致性

例如，在采用Normalizing Flow的方法时（除Perspective外），所有其他的数据增强技术都能显著提升性能。对于Memory Bank方法而言（整体上），尽管大部分数据增强技术能有所改进（但仅限于部分技术）。其中旋转和平移对大部分模型都很有效。然而，在One-Class分类任务中（唯一例外的是），所有数据增强技术都会降低模型性能。（这里可能有一些规律）

4.2. 混合数据增强

懒得抄，巴拉巴拉，然后。

表4反映了混合数据增强在图像级AUC-ROC度量中的显著优势。进一步观察到，在PatchCore上该方法展现出明显的提升效果（参考文献[17]），而在其他分析方法中则可能导致分类精度的下降。

4.3. 分析

通过数据增强技术提升训练数据的多样性，并使其更加贴近试验数据集的分布特性。然而，在图2所示的数据增强操作中可以看出，在测试集上可能出现不匹配的情况。例如，在经过旋转（Rotation）和翻转（Flip）处理后生成牙刷图像时，默认情况下可能会导致牙刷出现倒置或侧置状态，在测试集中这种状态是极为罕见甚至不可能出现的情况。因此，在大多数IAD方法中同时应用多种增强操作未必会有显著效果甚至可能降低其性能表现。不过例外情况存在：PaDiM[4]与PatchCore[17]这两种算法具有独特的特性。它们并非依赖于图像的整体形状或结构特征而是专注于图像中的局部区域特征如图2所示。即使经过数据增强变换处理每个局部区域依然能保持与正常情况下的对应区域高度相似性。然而值得注意的是PaDiM算法会对不同图像中同一空间位置上的多个patch进行高斯拟合并假设这些patch应具有较低的空间一致性这一特性可能导致其性能受到负面影响另一方面PatchCore算法则完全摒弃了关于补丁之间空间位置关系及全局变化模式的关注而专注于分析补丁自身的局部特征属性这样一来即使在经过大量数据增强操作后也不会显著影响其性能表现反而可以通过创造更具挑战性的正常图像变体来进一步提升算法鲁棒性

为了更好地理解PatchCore[17]的工作原理以及验证之前的论断，在Mvtec AD数据集上进行了相关实验研究。具体而言，在该研究中我们选取了一个类的所有训练样本、随机选取的四张少量训练图像及其增强版本作为输入数据，并提取所有patch的嵌入向量以获取其特征表示信息。随后通过t-SNE[25]技术将这些高维嵌入降到二维空间并展示在图3中进行分析观察。实验结果显示，在未经数据增强处理的情况下这些图像对应的嵌入分布较为稀疏主要局限于有限范围内的特征空间区域；然而经过数据增强处理后这些图像的嵌入变得更加密集并扩展了特征空间覆盖范围这表明数据增强技术能够有效生成更多样化的补丁从而显著提升了PatchCore算法在少样本异常检测中的性能表现

图4展示了仅用4张训练图像进行数据增强的PatchCore[17]在不同物体上的性能对比。可以看出，该方法不仅可以准确地区分正常与异常图像，并且能够精确识别出物体表面的异常区域。这是因为经过数据增强处理后得到的补丁嵌入特征，在特征空间中呈现出高度相似性，在同一集群内形成紧密分布。因此，在特征空间中这些正常的补片很容易与其他偏离本集群的异常补片区分开来。这表明该方法不会出现误报问题，并且能够有效避免将正常区域错误地标记为异常区域的情况

5. 结论

本文主要聚焦于探索数据增强技术在少样本互易性检测（IAD）中的应用效果。通过系统性的研究发现，在三个典型数据集上分别采用了六种不同的数据增强策略，并对 eleven 种主流算法进行了系统性地测试与性能对比分析

实验研究表明，在不同类别的异常检测算法（IAD）中实施数据增强效果各异。这种差异主要取决于其核心假说的不同。尽管采用相似技术手段实现的数据增强方法在某些场景下表现出相似的效果[如基于嵌入空间的数据增强技术]；但将其多种策略混合应用往往达不到预期效果甚至可能导致检测精度下降[因为这些方法可能引入与测试样本不匹配区域的不自然变化]。值得注意的是PatchCore作为一种例外系统它通过专注于单个样本局部特征而不考虑其在整个图像中的空间分布或全局变化特性从而避免了这些问题的表现良好的准确率表现[而混合策略则能通过生成更多样化的正常样本来提升检测能力]