STAR: 지속 학습을 위한 안정성 유도 체중 섭동

인간은 순차적으로 새로운 다양하고 과제를 자연스럽게 학습할 수 있습니다. 지속 학습은 새로운 데이터(잠재적으로 새로운 과제)를 순차적으로 볼 때 학습된 모델을 업데이트하는 학습 알고리즘의 한 종류입니다. 지속 학습의 주요 과제는 모델이 새로운 과제를 학습하도록 업데이트됨에 따라 기존에 학습한 과제에 대한 지식이 상실되는 재앙적 망각에 취약해진다는 것입니다. 지속 학습 중 망각을 완화하기 위한 인기 있는 접근법은 이전에 본 샘플의 작은 버퍼를 유지하고 이를 훈련 중 재생하는 것입니다. 그러나 이 접근법은 작은 버퍼 크기에 의해 제한되며, 망각은 감소하지만 여전히 존재합니다. 본 논문에서는 모델 예측의 KL 발산을 해당 지역 매개변수 이웃과 일치시켜 안정성을 촉진하고 망각을 완화하는 최악의 경우 매개변수 섭동을 이용한 새로운 손실 함수인 STAR를 제안합니다. STAR는 기존의 어떤 리허설 기반 방법과도 플러그 앤 플레이 구성 요소로 결합될 수 있습니다. 우리는 STAR가 다양한 기준에서 기존 방법의 성능을 최대 15%까지 일관되게 향상시키며 리허설 기반 지속 학습의 최신 기술에 비해 우수하거나 경쟁력 있는 정확도를 달성한다는 것을 경험적으로 보여줍니다.