2021 November 20 defense, of, adversarial, attack, against, detector

【文献调研】目标检测对抗样本攻击的防御方法

【ICCV2021】Exploiting Multi-Object Relationships for Detecting Adversarial Attacks in Complex Scenes

关键词：目标物体之间的一致性来防御对抗样本攻击，场景描述->学习内在依赖

摘要

最近的研究表明检查输入数据的内在一致性关系是检测对抗攻击的有效方式（通过检查复杂场景中目标相互关系）。然而，现有的方法大多只对特定的模型联结，泛化性较差。基于自然场景图像的语义描述的观察，使用语言模型来学习目标共现关系，作者开发了一种使用语言模型来开发一种新颖方法来执行语言内容一致性检查。作者方法的区别性在于部署目标检测的独立性，在多目标实际场景中检测对抗的成功率。在VOC和COCO显示出性能由于其他方法。

简单来说，就是使用语言模型来学习复杂场景中对象之间的关联，利用这种差异来检测对抗样本。

概述

当下主要的防御策略是捕获输入数据内部依赖，并且检查这些依赖的违背来检测对抗样本。

上下文被广泛地应用于目标识别问题和场景理解，但是使用上文被用于检测对抗攻击的工作还较少。在作者之前的文献[21]中，提出将上下文建模成全脸截图，每个节点都是RPN中的一个提取框，边编码了其他区域（整个场景的背景）如何在特征空间影响当前节点。然后，训练了一个自编码器（每个对应于一个目标类别）来检查上下文特征分布的一致性。

在本文，作者提出一种新颖的基于目标共现的模型不可知的对抗攻击检测器。作者利用自然语言处理模型来学习共现目标之间的依赖性，并作为对学习上下文模型违法该规则的来检测对抗攻击。图1描述了方法的高层语义。作者首先将检测网络的输出编码成描述成目标共现关系的句子（车和信号）。然后，使用训练好的语言模型来预测每个检测到的基于上下文的实例。最终，通过比较语言模型的对检测结果的预测来评估场景图像的上下文一致性。如果结果存在差异，那么输出图像就是对抗样本。