볼레벨 최적화를 위한 방법: 오목 하위 문제와 함께

그라디언트 기반의 볼레벨 최적화 방법은 하이퍼파라미터 최적화, 메타 학습, 모델 가지치기를 포함한 다양한 응용 분야에 적용되어 왔습니다. 그러나 볼레벨 최적화 문제는 해결하기 어려운 것으로 알려져 있으며, 유한 시간 보장은 강한 오목 하위 문제를 가진 더 단순한 볼레벨 문제에 대해서만 확립되었습니다. 본 연구에서는 원 문제의 간단한 근사 문제를 순차적으로 해결하는 반복 볼레벨 최적화 방법을 제안합니다. 하위 수준에 강한 오목성이 없지만, 제안된 방법이 O({^{ - 1}})의 반복 복잡도로 ϵ-정지점으로 수렴한다는 것을 보여줍니다. 실험을 통해 이 방법의 효율성이 검증되었습니다.