大規模言語モデルは少数ショットの臨床情報抽出器である

臨床NLPコミュニティの長年の目標は、臨床ノートに閉じ込められた重要な変数の抽出です。しかし、一般領域からのデータセットシフトや、公的な臨床コーパスや注釈の不足が障害となっています。本研究では、InstructGPT（Ouyang et al., 2022）のような大規模言語モデルが、臨床領域向けに特にトレーニングされていないにもかかわらず、臨床テキストからのゼロショットおよび少数ショット情報抽出において良好な性能を示すことを示します。テキスト分類や生成性能についてはすでに広く研究されていますが、ここでは、スパンの特定、トークンレベルのシーケンス分類、および関係抽出など、より構造化された出力を必要とする多様なNLPタスクに対処するためにそれらを活用する方法を新たに示します。さらに、これらのシステムを評価するための利用可能なデータが不足しているため、新しいタスクのためにCASIデータセット（Moon et al., 2014）の手動再注釈に基づいた少数ショットの臨床情報抽出のベンチマーク用新データセットを導入します。我々が研究した臨床抽出タスクにおいて、GPT-3システムは既存のゼロショットおよび少数ショットのベースラインを大幅に上回ります。