トークンを共有キャラクタースペースにマッピングすることによるバイリンガル言語モデルの訓練

我々は、アラビア語のテキストをヘブライ語で音訳したバージョンを使用して、バイリンガルアラビア語-ヘブライ語言語モデルを訓練します。これにより、両言語が同じスクリプトで表現されることを確保します。アラビア語とヘブライ語の形態的、構造的な類似性と広範なコグネート（語根の共有）を考慮し、両言語に統一されたスクリプトを使用する言語モデルの性能を評価します。機械翻訳においては、言語間の知識が必要です。その結果は有望であり、我々のモデルはアラビア語のテキストをアラビア文字のまま保持する対照モデルを上回りました。この音訳ステップの有効性を示しています。既存の他の言語モデルよりも約60％小さいデータセットで訓練されているにもかかわらず、我々のモデルは両翻訳方向において機械翻訳で同等の性能を発揮しているようです。