인간 중심 AI 공정성 프레임워크

중요한 사회적 분야에서의 인공지능(AI) 사용이 증가함에 따라 인종, 성별, 사회경제적 지위와 같은 민감한 속성을 통한 불평등한 대우에 대한 우려가 커지고 있습니다. AI 공정성을 확보하기 위한 상당한 작업이 있었지만, 대조되는 공정성 개념과 예측 정확도 사이의 균형을 맞추는 것은 여전히 도전적이며, 공정한 AI 시스템의 실제 배치를 저해하는 장벽을 형성합니다. 이를 해결하기 위해, 우리는 개인 및 집단 공정성, 하위 마진 및 교차 영역 가정을 결합하고, 결과 기반 및 기회의 평등(EOO) 관점을 아우르는 여덟 가지의 독립적인 공정성 지표를 체계적으로 다루는 인간 중심의 통합 공정성 프레임워크를 소개합니다. 이 구조는 이해관계자들이 그들의 가치와 맥락적 고려사항에 맞추어 공정성 개입을 조정할 수 있도록 합니다. 이 프레임워크는 모든 지표에 대해 일관되고 이해하기 쉬운 공식을 사용하여 비전문가의 학습 곡선을 줄입니다. 단일 공정성 개념을 우선시하는 것이 아니라, 이 프레임워크는 이해관계자들이 다수의 공정성 목표에 가중치를 부여할 수 있도록 하여 그들의 우선사항을 반영하고 다수의 이해관계자 간의 타협을 용이하게 합니다. 우리는 소득 예측을 위한 UCI 성인 인구조사 데이터셋, 범죄 재범을 위한 COMPAS 데이터셋, 신용 위험 평가를 위한 독일 신용 데이터셋, 그리고 의료 활용을 위한 MEPS 데이터셋의 네 가지 실제 데이터셋에 이 접근 방식을 적용했습니다. 가중치 조정을 통해 서로 다른 공정성 지표 간의 미묘한 거래를 드러냈습니다. 마지막으로, 사법적 의사결정 및 의료 분야의 사례 연구를 통해 이 프레임워크가 공정한 AI 시스템의 실질적이고 가치 민감한 배치를 어떻게 도울 수 있는지를 보여줍니다.