동물원

심층 신경망(DNNs)은 많은 기계 학습 작업에서 최첨단 성능을 달성하는 가장 두드러진 기술 중 하나입니다. 여기에는 이미지 분류, 텍스트 마이닝, 음성 처리 등이 포함되지만 이에 국한되지 않습니다. 그러나 최근 DNN에 대한 연구는 특히 자율 주행을 위한 교통 표지판 식별과 같은 보안이 중요한 작업에 대한 적대적 예제에 대한 강건성에 대한 우려가 계속 증가하고 있음을 나타내고 있습니다. 연구들은 잘 훈련된 DNN의 취약성을 드러내었으며, 이는 사람과 기계 모두에게 거의 눈에 띄지 않는(미세하게 조정된) 적대적 이미지를 생성하여 잘못된 분류를 이끌어내는 능력을 보여주었습니다. 더욱이, 연구자들은 이러한 적대적 이미지가 대상 모델을 기반으로 한 대체 모델을 훈련하고 공격하는 것만으로도 높은 전이성을 갖는다는 것을 보여주었으며, 이는 DNN에 대한 블랙 박스 공격으로 알려져 있습니다.