해양 자율 수면 선박에서 객체 탐지를 위한 클린 라벨 중독 공격의 취약성

인공지능(AI)은 해양 자율 수면 선박(MASSs)을 실현하는 데 중요한 역할을 할 것입니다. 하지만 이 새로운 기술은 양날의 검과 같이 새로운 위협을 동반합니다. 본 연구의 목적은 이해관계자들이 MASSs에 있어 AI가 초래할 수 있는 잠재적 보안 위협에 대한 인식을 높이는 것입니다. 이를 위해 객체 탐지 모델에 클린 라벨 중독 공격이 실행되어 배가 페리로 잘못 분류됨으로써 보트에 접근하는 해적을 탐지할 수 없게 되는 가상의 공격 시나리오를 제안합니다. 우리는 독성 개구리 알고리즘을 사용하여 중독 인스턴스를 생성하고, 클린 및 중독된 데이터로 YOLOv5 모델을 훈련시켰습니다. 모델의 정확도가 높음에도 불구하고, 중독된 표적 인스턴스로 인해 배를 페리로 잘못 분류했습니다. 실험이 제한된 조건에서 수행되었지만, 우리는 객체 탐지 알고리즘의 취약성을 확인했습니다. 이러한 잘못된 분류는 부정확한 AI 의사결정 및 사고를 초래할 수 있습니다. 본 연구에서 제안한 가상의 시나리오는 객체 탐지 모델의 클린 라벨 중독 공격에 대한 취약성을 강조하며, 해양 산업에서 AI가 초래하는 보안 위협에 대한 완화 전략의 필요성을 나타냅니다.