大脑中的学习是局部的和无监督的(海贝亚式)。我们基于这些微观约束推导出一个有效的人类语言模型的基础。它分为两个部分:(1)一个神经元的层次结构,它学习从文本中标记单词(这就是你在阅读时所做的);(2)额外的神经元将标记器学习到的无语义模式绑定成一个有语义的标记(嵌入)。该模型允许连续并行学习而不遗忘,并且是一个强大的标记器,执行重归一化群。这使得它能够利用冗余,生成可随时分解为基集(例如字母表)的标记,并可以混合从多种语言中学习到的特征。我们发现这个模型的结构使其能够在没有数据的情况下学习自然语言的词法。该模型生成的语言数据预测了在真实语言中观察到的正确词形模式分布,进一步证明了人类语言在微观层面上为何被分割成单词。该模型为理解语言和人类创意的微观起源奠定了基础.
保罗·尤金尼奥(Mon,)研究了这个问题。