从难负样本中学习：用于检测分布外数据的多原型对比学习方法

《IEEE Access》：Learning from hard negative samples: Multi-prototype contrastive learning for out-of-distribution detection

　　

摘要：

当我们将训练有素的深度学习模型应用于现实世界场景时（这些场景基于封闭世界的假设），异常检测（Out-of-Distribution, OOD）是一项至关重要的任务。最近，许多研究人员在对比学习中使用代表每个分布内（In-Distribution, ID）类别均值的原型作为锚点。这种方法使得同一类别内的样本能够更紧密地聚类，从而生成紧凑的ID数据嵌入，同时为OOD数据生成分散的嵌入。随着研究从使用单个原型转向使用多个原型，一些距离类别中心较远的原型变得容易受到难负样本（hard negative samples）的影响；这些样本与锚点原型的特征相似。为了解决这个问题，我们提出了ADAPT，这是一种针对多原型对比学习中难负样本的适应策略。该方法动态调整负样本的权重，使模型能够稳健地处理难负样本，并生成更紧凑的类别内嵌入和更分散的类别间嵌入。此外，为了确保初始不稳定原型的训练稳定性，我们量化了原型对齐程度，并相应地调整了训练中使用的温度系数。因此，ADAPT在标准和更具挑战性的近异常检测（Near-OOD）基准测试中表现出先进的性能。