インセンティブの反映: 監視が制御するシステムを再生産する時

監視は二つの構造的に異なる方法で失敗する。第一の方法はよく知られたもので、監視者が腐敗し、捕らえられ、または無能である。第二の方法は、より見えにくく、持続的である：監視層が制御するシステムと同じインセンティブのフィールド内に置かれ、その結果、システムの行動を修正するのではなく再生産させる。このメモでは、第二の失敗クラスを文書化する：インセンティブ反映。メカニズムは、監視者の報酬構造が評価すべき結果と一致する場合に作動する。こうした条件下では、監視は時間と共に弱まらず、間違った方向に全力で動作する。ヘルスケアAIと採用自動化における三つの事例がこのメカニズムを具現化している。監視が機能するために必要な構造的条件 — インセンティブの独立性 — は事例証拠から導き出され、診断基準として形式化される。