医療の安全上重要な設定における大規模言語モデルのガードレールの必要性： 薬剤監視エコシステムにおける人工知能の適用

大規模言語モデル（LLM）は、特定のタイプの知識業務を効果的な規模で実行する能力を持つ有用なツールです。しかし、高リスクおよび安全上重要な領域でのLLMの展開は、「幻覚」の問題を含む独自の課題をもたらします。これは、LLMが作り出した情報を生成する可能性があるためです。特に、薬剤の安全性などの設定では、不正確さが患者に危害を及ぼす可能性があるため、懸念されます。これらのリスクを軽減するために、私たちは、特定のタイプの幻覚やエラーを軽減するために特別に設計されたガードレールの概念実証スイートを開発し、実証しました。これらのガードレールには、不適切なデータの摂取を防ぐための異常文書を検出するメカニズムや、誤った薬剤名または有害事象の用語を特定する機能、生成されたコンテンツの不確実性を伝える機能が含まれています。私たちは、構造化データと非構造化データの両方を自然言語に変換するテキストからテキストへのタスクに特化して微調整されたLLMにこれらのガードレールを統合しました。この方法は、個別の症例安全報告書の翻訳に適用され、薬剤監視処理タスクにおける効果的な適用を示しました。私たちのガードレールフレームワークは、さまざまな領域で広く適用可能なツールのセットを提供し、LLMが高リスクの状況で安全に使用できるようにし、誤った薬剤監視関連用語の生成を含む主要なエラーの発生を排除して、医療の安全上重要な環境における厳格な規制および品質基準を遵守することを保証します。