스택 증강 순환 신경망을 사용한 알고리즘 패턴 추론

최근 머신러닝에서의 성과에도 불구하고, 우리는 아직 진정한 인공지능에 도달하기에는 매우 멉니다. 본 논문에서는 표준 딥러닝 접근 방식의 한계를 논의하고, 이 한계 중 일부는 구조화된 방식으로 모델의 복잡성을 키우는 방법을 배움으로써 극복할 수 있음을 보여줍니다. 특히, 우리는 표준 순환 신경망으로 학습 가능한 범위를 넘어서는 가장 단순한 시퀀스 예측 문제, 즉 세기를 세고 시퀀스를 기억할 수 있는 능력을 가진 모델만이 학습할 수 있는 알고리즘으로 생성된 시퀀스를 연구합니다. 우리는 순환 신경망과 훈련 가능한 메모리와 연관된 기본 알고리즘이 순차적 데이터에서 학습될 수 있음을 보여줍니다.