DP-DyLoRA: 동적 저랭크 적응을 이용한 차등 프라이버시 연합 학습 하의 장치 내 변환기 기반 모델 미세 조정

연합 학습 (FL)은 사물인터넷 (IoT) 시스템의 클라이언트가 서버와 로컬 데이터를 공유하지 않고도 글로벌 모델을 협력하여 훈련할 수 있도록 합니다. 그러나 클라이언트의 서버에 대한 기여는 여전히 민감한 정보를 유출할 수 있습니다. 차등 프라이버시 (DP)는 클라이언트의 기여에 무작위성을 추가하는 메커니즘을 통해 이러한 유출을 해결하여 공식적인 프라이버시 보장을 제공합니다. 이러한 무작위성은 현대 IoT 시스템에서 일반적인 대형 변환기 기반 모델의 훈련을 불가능하게 만듭니다. 이 작업에서는 연합 학습 시스템에서 차등 프라이버시를 적용한 대규모 장치 내 변환기 기반 모델의 미세 조정 실용성을 경험적으로 평가합니다. 다양한 도메인에 걸친 작업에 대한 시스템 특성에 대한 포괄적인 실험을 수행합니다: 음성 인식, 컴퓨터 비전 (CV) 및 자연어 이해 (NLU). 우리의 결과는 차등 프라이버시 연합 학습 (DP-FL) 하에서의 완전 미세 조정이 일반적으로 성능 저하를 초래하며, 이는 매개변수 효율적인 미세 조정 (PEFT)을 통해 기여의 차원을 줄임으로써 완화될 수 있음을 보여줍니다. 기존 DP-PEFT 방법의 벤치마크 결과, DP 저랭크 적응 (DP-LoRA)이 다른 방법들보다 일관되게 우수한 성능을 보이는 것으로 나타났습니다. 더욱 유망한 접근 방법인 DyLoRA는 낮은 랭크 변수를 사용하며, FL과 단순히 결합할 경우 차등 프라이버시를 쉽게 깨뜨릴 수 있습니다. 따라서 우리는 차등 프라이버시와 결합할 수 있는 적응 방법을 제안하며 이를 DP-DyLoRA라고 부릅니다. 마지막으로, 100만 클라이언트 및 엄격한 프라이버시 예산 =2의 조건 하에서, 우리는 DP로 인한 정확도 저하 및 단어 오류율 (WER) 증가를 각각 2% 및 7% 미만으로 줄일 수 있습니다.