Key points are not available for this paper at this time.
In diesem Papier beschäftigen wir uns mit der Frage, wie Sequenzebenen-Netzwerke besser mit strukturierten Eingaben umgehen können. Wir schlagen einen Simulator für maschinelles Lesen vor, der Texte inkrementell von links nach rechts verarbeitet und flaches Denken mit Gedächtnis und Aufmerksamkeit durchführt. Der Leser erweitert die Langzeit-Kurzzeit-Gedächtnis-Architektur um ein Gedächtnisnetzwerk anstelle einer einzelnen Gedächtniszelle. Dies ermöglicht eine adaptive Gedächtnisnutzung während der Rekurrenz mit neuronaler Aufmerksamkeit und bietet eine Möglichkeit, schwach Beziehungen zwischen Tokens zu induzieren. Das System ist zunächst darauf ausgelegt, eine einzelne Sequenz zu verarbeiten, aber wir zeigen auch, wie es mit einer Encoder-Decoder-Architektur integriert werden kann. Experimente zum Sprachmodellieren, zur Sentiment-Analyse und zur natürlichen Sprachinferenz zeigen, dass unser Modell dem Stand der Technik entspricht oder ihn übertrifft.
Cheng et al. (Fri,) haben diese Frage untersucht.
Synapse has enriched 5 closely related papers on similar clinical questions. Consider them for comparative context: