Gmail Smart Compose : Écriture Assistée en Temps Réel

Dans cet article, nous présentons Smart Compose, un système novateur pour générer des suggestions interactives en temps réel dans Gmail, qui aide les utilisateurs à rédiger des emails en réduisant la saisie répétitive. Dans la conception et le déploiement d'un tel système complexe à grande échelle, nous avons rencontré plusieurs défis, notamment le choix du modèle, l'évaluation des performances, le service et d'autres problèmes pratiques. Au cœur de Smart Compose se trouve un modèle de langage neuronal à grande échelle. Nous avons tiré parti des techniques de pointe en apprentissage automatique pour l'entraînement du modèle de langage, ce qui a permis une prédiction de suggestions de haute qualité, et avons construit une infrastructure de service novatrice pour une inférence en temps réel et à haut débit. Les résultats expérimentaux montrent l'efficacité de notre approche de conception et de déploiement du système proposé. Ce système est actuellement en service dans Gmail.