비인과 예측에서의 공정성과 강건성

분포 변화에 대한 강건성과 공정성은 현대 기계 학습 모델에 요구되는 두 가지 중요한 요소로 독립적으로 부각되어 왔다. 이 두 요소가 서로 관련 있는 것처럼 보이지만, 실제로 그 간의 관계는 종종 불분명하다. 여기에서는 비인과 예측 작업에 초점을 맞추어 인과적 관점에서 이러한 관계를 논의한다. 이 작업에서는 분류기에 대한 입력(예: 이미지)이 목표 레이블과 보호된 특성의 함수로 생성된 것으로 가정된다. 이러한 관점을 취함으로써, 우리는 공정성 기준인 분리와 강건성의 일반적인 개념인 위험 불변성 사이의 명시적 연결을 도출한다. 이러한 연결은 비인과적 환경에서 분리 기준을 적용할 새로운 동기를 제공하고, 공정성과 성능 간의 무역에 관한 오래된 논의를 알린다. 또한, 우리의 연구 결과는 강건성에 동기를 부여한 접근 방식이 분리를 강제하는 데 사용될 수 있으며, 그러한 방법이 직접적으로 분리를 강제하는 방법보다 실제로 더 잘 작동하는 경우가 많음을 제안한다. 의료 데이터 집합을 사용하여, 우리는 성별 그룹 간의 유행 차이가 공정성 완화를 유도하는 설정에서 X선으로부터 폐렴을 감지하는 작업에 대한 우리의 발견을 경험적으로 검증한다. 우리의 발견은 공정성 기준을 선택하고 시행할 때 인과 구조를 고려하는 것이 중요함을 강조한다.