합의 학습: 새로운 분산 앙상블 학습 패러다임

최근 대규모 기계 학습 모델의 광범위한 채택은 효율성과 확장성을 위한 분산 컴퓨팅의 필요성을 강조합니다. 이 작업은 고전적 앙상블 방법과 P2P 시스템에 배포된 합의 프로토콜을 결합한 새로운 분산 기계 학습 패러다임인 합의 학습을 소개합니다. 이러한 알고리즘은 두 단계로 구성됩니다: 첫째, 참가자들은 자신의 모델을 개발하고 새로운 데이터 입력에 대한 예측을 제출합니다; 둘째, 개별 예측은 통신 단계의 입력으로 사용되며, 이는 합의 프로토콜에 의해 관리됩니다. 합의 학습은 사용자 데이터 프라이버시를 보장하며, 기본 합의 메커니즘으로부터 비잔틴 공격에 대한 안전 조치를 상속받습니다. 우리는 특정 합의 프로토콜에 대한 자세한 이론적 분석을 제공하고 합의 학습 앙상블의 성능을 중앙 집중식 앙상블 학습 알고리즘과 비교합니다. 논의는 비잔틴 참가자에 대한 알고리즘의 강건성을 설명하는 다양한 수치 시뮬레이션으로 보충됩니다.