소음이 있는 라벨로 의사결정 트리를 훈련시키기 위한 강건 손실 함수

우리는 소음이 있는 레이블 데이터로 의사결정 트리 훈련을 고려하며, 강건한 학습 알고리즘으로 이어질 수 있는 손실 함수에 초점을 맞춥니다. 우리의 기여는 세 가지입니다. 첫째, 의사결정 트리 학습의 맥락에서 많은 기존 손실 함수의 강건성에 대한 새로운 이론적 통찰을 제공합니다. 우리는 일부 손실이 보수적인 손실의 일종에 해당한다는 것을 보여주며, 보수적인 손실은 훈련 동안 조기 중단 행동을 유도하고 테스트 동안 소음에 내성이 있는 예측으로 이어집니다. 둘째, 우리는 분포 손실이라고 하는 강건 손실 함수를 구성하기 위한 프레임워크를 소개합니다. 이러한 손실은 가정된 마진 분포에 따라 백분위 기반의 패널티를 적용하며, 강건성 매개변수를 통해 다양한 소음 비율에 자연스럽게 적응할 수 있게 합니다. 특히, 우리는 효율적인 탐욕적인 불순도 감소 학습 알고리즘으로 이어지는 음의 지수 손실이라고 하는 새로운 손실을 소개합니다. 마지막으로, 여러 데이터 세트와 소음 설정에 대한 우리의 실험은 이론적 통찰과 우리의 적응형 음의 지수 손실의 효과성을 검증합니다.