국소 조정 처리 장치 네트워크에서의 빠른 학습

우리는 분류 작업과 실수 값 함수 근사를 학습하기 위해 국소적으로 조정된 처리 장치의 단일 내부 레이어를 사용하는 네트워크 아키텍처를 제안합니다 (Moody and Darken 1988). 우리는 이러한 네트워크를 완전 감독 방식으로 훈련하는 것을 고려하지만, 자기 조직화 및 감독 학습을 결합한 보다 계산 효율적인 하이브리드 학습 방법을 선호합니다. 우리의 네트워크는 두 가지 이유로 역전파보다 빠르게 학습합니다: 지역 표현은 특정 입력에 대해 몇 개의 장치만 반응하도록 보장하므로 계산 오버헤드를 줄이고, 하이브리드 학습 규칙은 비선형이 아니라 선형이어서 더 빠른 수렴을 초래합니다. 기존의 많은 데이터 분석 방법과는 달리, 우리의 네트워크 아키텍처와 학습 규칙은 실제로 적응적이며 따라서 실시간 사용에 적합합니다.