「それは公平なゲームか、それとも違うのか？ LLMベースの会話エージェントを使用する際の開示リスクと利益をユーザーがどのように扱うかを検討する

特に高リスクの領域における大規模言語モデル（LLM）ベースの会話エージェント（CA）の広範な使用は、多くのプライバシー問題を引き起こします。ユーザーのプライバシーを尊重する倫理的なLLMベースのCAを構築するには、ユーザーが最も懸念するプライバシーリスクを深く理解することが必要です。しかし、既存の研究は主にモデル中心であり、ユーザーの視点に関する洞察を提供していません。このギャップを埋めるために、私たちは実世界のChatGPTの会話におけるセンシティブな開示を分析し、19人のLLMベースのCAユーザーとの半構造化インタビューを実施しました。私たちは、ユーザーがLLMベースのCAを使用する際、プライバシー、利用性、便利さの間で常にトレードオフに直面していることを発見しました。しかし、ユーザーの誤ったメンタルモデルやシステム設計のダークパターンにより、彼らのプライバシーリスクに対する認識と理解が制限されました。さらに、人間に似たインタラクションは、よりセンシティブな開示を促進し、ユーザーがトレードオフをナビゲートする能力を複雑にしました。私たちは、LLMベースのCAユーザーのプライバシーを保護するための実践的なデザインガイドラインとパラダイムシフトの必要性について論じます。