What question did this study set out to answer?

Leaky ReLU 활성화 기능을 사용하는 심층 신경망의 안전성 및 출력 보장을 검증할 수 있는 공식 검증 알고리즘을 개발하는 것입니다.

July 1, 2020399 citations

Reluplex을 더 실용적으로 만든: Leaky ReLU

Key Points

Leaky ReLU 활성화 기능을 사용하는 심층 신경망의 안전성 및 출력 보장을 검증할 수 있는 공식 검증 알고리즘을 개발하는 것입니다.
Leaky ReLU 활성화를 지원하기 위해 기본 Reluplex 검증 프레임워크를 확장했습니다.
비제로 음의 슬로프를 처리하고 죽은 뉴런 문제를 예방하기 위해 해결기 내에서 수학적 제약을 설정했습니다.
Leaky ReLU를 사용하는 네트워크에 대한 엄격한 공식 검증을 가능하게 하는 Leaky-Reluplex 알고리즘을 도입했습니다.
표준 ReLU 구조에 내재된 죽은 뉴런 취약성을 해결하는 검증 메커니즘을 제공했습니다.

Abstract

최근 몇 년 동안, 심층 신경망(DNN)은 빠른 발전을 경험하고 있으며 다양한 분야에서 널리 사용되고 있습니다. 그러나 DNN은 강력한 기능을 보여주었지만, 그들의 보안 문제는 점차 드러나고 있습니다. 따라서 신경망 출력을 공식적으로 보장하는 것이 필요합니다. Reluplex 알고리즘이 등장하기 전까지 DNN의 검증은 항상 어려운 문제였습니다. Reluplex 알고리즘은 ReLU 활성화 기능을 가진 DNN을 검증하는 데 특별히 사용됩니다. 이는 뛰어나고 효과적인 알고리즘이지만, 다른 활성화 기능을 검증할 수는 없습니다. ReLU 활성화 기능은

AI에게 질문

Bookmark

View Full Paper