다중 무장 공격을 위한 최적의 제로샷 탐지기

이 논문은 악의적인 행위자가 다중 무장 공격 전략을 사용하여 데이터 샘플을 조작하는 시나리오를 탐구하며, 이를 통해 데이터셋에 노이즈를 도입할 수 있는 다양한 경로를 제공합니다. 우리의 주요 목표는 입력에 대한 변경 사항을 탐지하여 데이터를 보호하는 것입니다. 우리는 방어자가 공격자에 비해 훨씬 적은 정보를 가진 환경에서 이 방어 전략에 매우 신중하게 접근합니다. 특히, 방어자는 방어 모델 교육이나 채널의 무결성을 검증하기 위해 어떤 데이터 샘플도 활용할 수 없습니다. 대신 방어자는 즉시 사용 가능한 기존 탐지기 집합에만 의존합니다. 이 도전을 해결하기 위해 우리는 이러한 탐지기가 내린 결정을 최적으로 집계하는 혁신적인 정보 이론적 방어 접근 방식을 도출하며, 훈련 데이터의 필요성을 없앱니다. 우리는 또한 공격자가 사전 훈련된 분류기를 보유하고 이를 대상으로 잘 알려진 적대적 공격을 수행하는 실제 사용 사례를 탐구합니다. 우리의 실험은 최적 설정에서 벗어나는 시나리오에서도 제안한 솔루션의 효과를 강조합니다.