本論文は、ソーシャルメディアのデータに基づく感情分析タスクにおける4つのトランスフォーマーモデル（BERT、ALBERT、T5、XLNet）を比較したものである。使用したのは、ゲームに関連するツイートが含まれるX（Twitter）データセットと、怒り、喜び、恐怖のカテゴリでラベル付けされたEmotionデータセットの二つである。すべてのモデルは、同一の前処理、トレーニング設定およびテスト設定でそれぞれ3、5、7、10エポックの間訓練された。結果は、エポック数が増加するにつれて精度が向上することを示した。最大の精度はBERTモデルで得られ、Xデータセットにおいては88.63%、Emotionデータセットにおいては97.05%だった。XLNetは長距離依存性の処理に優れた潜在能力を示し、ALBERTは軽量なアーキテクチャによりバランスの取れた性能を獲得した。一方、T5の性能は他と比較して劣っていた。総じて、トランスフォーマーアーキテクチャは、より高い精度と優れた文脈理解により、感情分析の文脈で従来の機械学習手法より優れていると推測される。
Erol Kına（水曜）はこの問題を研究した。