強化学習（RL）は、人工知能の中核技術として、ロボティクス、ゲーム、自動運転などの分野で強力な潜在能力を示しています。しかし、深層RLモデルの「ブラックボックス」な性質は、意思決定プロセスの透明性の欠如を招き、ユーザーがRLモデルのエージェントの行動を理解し信頼することを困難にしています。また、意思決定の解釈不可能性は、医療や金融などの敏感な分野で深刻な結果を引き起こす可能性があります。同時に、従来のRLは最大報酬を追求するため、結果モデルはしばしば公平性を無視し、政策の偏見を生み出し、集団の権利に影響を与えます。本記事では、RLの透明性と公平性の2つの重要な視点から要約します。1つ目は、意思決定手法の解釈性に基づいており、因果分析や部分的解釈、視覚化ツールを使用して意思決定を透明にします。2つ目は、制約条件に基づく意思決定手法であり、多目的最適化と段階的制約を通じて公平な意思決定を確保します。このレビューは、近年の代表的文献における方法論、実験結果、および限界を網羅しています。本論文の意義は、これらの手法を体系的に統合し、透明性と公平性の相互作用の課題を明らかにし、より信頼性の高いRLシステムの発展を促進し、社会的応用におけるRLの倫理的展開と持続可能な革新を促進するための今後の方向性を展望することです。
イェ・サン（火曜日）はこの問題を研究しました。