XAI 명세에서 적대적 견고성: 설명 가능성이 안전해야 하는 이유

Key Points

• 적대적 견고성과 설명 가능한 AI 명세의 보안성 간의 관계를 조사한다.
• 기존 설명 가능한 AI 프레임워크의 취약점을 확인하였다.
• 적대적 공격 하에서 다양한 머신러닝 모델의 견고성을 평가하였다.
• 설명 가능성 명세의 보안 조치를 평가하였다.
• 많은 설명 가능한 AI 모델이 적대적 조건에서 상당한 취약성을 보임을 발견하였다.
• 보안 조치 통합이 설명 가능한 AI 시스템의 견고성을 향상시킨다는 것을 보여주었다.