자기 조립 신경망의 발전: 자발적 활동에서 경험 의존적 학습으로

생물학적 신경망은 높은 플라스틱성으로 특징 지어지며, 이는 자연 유기체의 놀라운 적응력을 가능하게 하는 핵심 속성입니다. 특히, 이 능력은 시냅스 강도와 신경계의 위상 모두에 영향을 미칩니다. 반면 인공지능 신경망은 주로 정적인 완전 연결 구조로 설계되어, 변화하는 환경과 새로운 입력에 대해 쉽게 깨질 수 있습니다. 신경 발달 프로그램(Neural Developmental Programs, NDP)에 대한 이전 작업을 바탕으로, 우리는 활동과 보상에 의존하는 방식으로 시냅스와 구조적 플라스틱성을 갖춘 자기 조직형 신경망의 한 클래스를 제안합니다. 이를 Lifelong Neural Developmental Program (LNDP)이라고 명명합니다. 우리는 그래프 변환기 아키텍처를 기반으로 구축된 네트워크의 인스턴스를 제시하고, 감각 뉴런의 자발적 활동에 기반한 경험 이전 플라스틱성 메커니즘을 제안합니다. 우리의 결과는 무작위로 연결되거나 비어 있는 네트워크에서 출발하여 다양한 제어 작업에서 경험으로부터 학습하는 모델의 능력을 보여줍니다. 우리는 또한 환경이 빠른 적응이나 비정상적인 보상을 필요로 할 때 구조적 플라스틱성의 이점이 있음을 보여줍니다.