Key points are not available for this paper at this time.
تعتبر الشبكات العصبية التكرارية أداة قوية لنمذجة البيانات المتسلسلة، ولكن اعتماد حساب كل خطوة زمنية على ناتج الخطوة الزمنية السابقة يحد من التوازي ويجعل الشبكات العصبية التكرارية غير مريحة للتسلسلات الطويلة جدًا. نقدم الشبكات العصبية شبه التكرارية (QRNNs)، وهي نهج لنمذجة التسلسلات العصبية يقوم بالتناوب بين الطبقات الالتفافية، التي تطبق بالتوازي عبر الخطوات الزمنية، ووظيفة تجميع تكرارية بسيطة تطبق بالتوازي عبر القنوات. على الرغم من نقص الطبقات التكرارية القابلة للتدريب، إلا أن الشبكات العصبية شبه التكرارية المكدسة تحقق دقة تنبؤية أفضل من LSTMs المكدسة بالحجم الخفي نفسه. بسبب تزايد التوازي لديها، فهي أسرع حتى 16 مرة في وقت التدريب والاختبار. تُظهر التجارب على نمذجة اللغة وتصنيف المشاعر والترجمة العصبية على مستوى الأحرف هذه المزايا وتبرز جدوى QRNNs كعنصر أساسي لمجموعة متنوعة من مهام التسلسل.
درس برادبوري وآخرون (Sat,) هذا السؤال.