모멘텀을 이용한 적대적 공격 강화

딥 뉴럴 네트워크는 적대적 예제에 취약하여 이 알고리즘에 보안 문제를 야기하며, 그로 인해 심각한 결과를 초래할 수 있습니다. 적대적 공격은 딥 러닝 모델이 배포되기 전에 강인성을 평가하기 위한 중요한 대리 역할을 합니다. 하지만 기존의 대부분의 적대적 공격은 낮은 성공률로 블랙 박스 모델을 속일 수 있습니다. 이 문제를 해결하기 위해, 우리는 적대적 공격을 강화하기 위해 모멘텀 기반의 반복 알고리즘의 광범위한 클래스를 제안합니다. 공격을 위한 반복 과정에 모멘텀 항을 통합함으로써, 우리의 방법은 업데이트 방향을 안정화시키고 반복 과정 중에 좋지 않은 국소 최대값에서 탈출할 수 있게 하여, 보다 전이 가능한 적대적 예제를 생성합니다. 블랙 박스 공격의 성공률을 더욱 향상시키기 위해, 우리는 모델 집합에 모멘텀 반복 알고리즘을 적용하고, 강력한 방어 능력을 갖춘 적대적으로 훈련된 모델도 우리의 블랙 박스 공격에 취약하다는 것을 보여줍니다. 우리는 제안된 방법이 다양한 딥 모델 및 방어 방법의 강인성을 평가하기 위한 기준이 되기를 바랍니다. 이 방법으로 우리는 NIPS 2017 비목표 적대적 공격 및 목표 적대적 공격 대회에서 1위를 차지하였습니다.