通过分层注意力机制和频域难样本蒸馏技术提升多实例学习效果

《Knowledge-Based Systems》：Improving multi-instance learning with hierarchical attention and frequency-domain hard sample distillation

　　

丁晓 | 孟倩孙 | 一清夏 | 海阳 | 赖旺 | 彭刘

• •
  正负区域之间的不平衡导致注意力过度集中。
• •
  注意力机制将注意力错误地集中在无关实例上，而忽略了难点案例。
• •
  通过基于先验知识的注意力蒸馏来减轻负面区域的影响。
• •
  通过动态标签注意力损失来应对注意力的过度集中。
• •
  将挖掘出的难点样本转换为频域以提取关键特征。