지식 증류 기술에 기반한 도메인 간 소수 샷 적응 분류 알고리즘 연구

딥 러닝과 센서 및 센서 수집 방법의 발전으로 컴퓨터 비전 검사 기술이 빠르게 발전했습니다. 딥 러닝 기반 분류 알고리즘은 상당한 양의 훈련 샘플을 활용하여 뛰어난 일반화 능력을 갖춘 모델을 획득해야 합니다. 그러나 개인 정보 보호, 주석 비용 및 센서 캡처 이미지와 같은 문제로 인해 제한된 샘플을 최대한 활용하는 방법이 실제 훈련 및 배포에 있어 주요 도전 과제가 되었습니다. 또한 모델을 시뮬레이션하고 실제 이미지 시나리오로 전환할 때 일반적인 훈련 세트와 목표 도메인(도메인 오프셋) 사이에서 자주 불일치가 발생합니다. 현재 메타 학습은 소수 샷 학습 문제에 대한 유망한 솔루션을 제공합니다. 그러나 목표 도메인의 지원 세트 데이터 양은 여전히 제한되어 있어 도메인 간 학습 효과가 제한적입니다. 이 문제를 해결하기 위해 우리는 Teacher–Student 프레임워크를 활용한 자기 증류 및 혼합(SDM) 방법을 개발했습니다. 이 방법은 자기 증류 기술과 혼합 데이터 증강을 적용하여 소스 도메인에서 타겟 도메인으로 지식을 효과적으로 전이하고, 상대적으로 풍부한 데이터 세트에서 더 나은 이미지 표현을 학습하며, 타겟 도메인에서 미세 조정을 달성합니다. 아홉 개의 고전 모델과 비교한 실험 결과는 SDM 방법이 훈련 시간과 정확도 면에서 우수하다는 것을 보여줍니다. 게다가 SDM은 제한된 수의 타겟 도메인 샘플로도 소스 도메인에서 타겟 도메인으로 지식을 효과적으로 전이합니다.