增强扩散去噪平滑对协变量转移的鲁棒性

随机平滑是一种已建立的方法，用于实现对l2-对抗扰动的认证鲁棒性。通过在基本分类器之前加入去噪器，预训练的分类器可以无缝集成到随机平滑中，而不会显著降低性能。在现有方法中，扩散去噪平滑——使用预训练的去噪扩散模型作为去噪器——已产生最先进的结果。然而，我们表明，采用去噪扩散模型会通过对添加噪声的错误估计引入协变量转移，最终降低平滑分类器的性能。为了解决这个问题，我们提出了一种新的对抗目标函数，专注于去噪扩散模型的添加噪声。这种方法的灵感来自我们对协变量转移来源的理解。我们的目标是训练基本分类器，以确保其对去噪器引入的协变量转移具有鲁棒性。我们的方法显著提高了三项标准分类基准——MNIST、CIFAR-10和ImageNet——的认证准确性，在l2-对抗扰动中达到了新的最先进性能。我们的实现可公开访问，网址为 https://github.com/ahedayat/Robustifying-DDS-Against-Covariate-Shift