Mixed-Precision Training für NLP und Spracherkennung mit OpenSeq2Seq

Wir präsentieren OpenSeq2Seq - ein auf TensorFlow basierendes Werkzeug zur Ausbildung von Sequenz-zu-Sequenz-Modellen, das verteiltes und gemischtes Präzisionstraining bietet. Benchmarks zu Aufgaben der maschinellen Übersetzung und Spracherkennung zeigen, dass mit OpenSeq2Seq gebaute Modelle eine Spitzenleistung bei 1,5-3x weniger Trainingszeit erzielen. OpenSeq2Seq bietet derzeit Bausteine für Modelle, die eine breite Palette von Aufgaben lösen, einschließlich neuraler maschineller Übersetzung, automatischer Spracherkennung und Sprachsynthese.