この論文は、現代のAIディスコースにおける混乱の増大する原因を明らかにします。それは、決定論的計算および「デフォルトによる安全」管理と、権限のある意思決定との混同です。物理ベースのシミュレーター、制約最適化システム、およびその他の決定論的エンジンが注目を集める中で、ベンダーはルール制約された、ガードレールが多く、または事前設定されたシステムを「ガバナンス」として盛んに販売しています。このような主張はしばしば、決定論的または制約された出力が安全で、コンプライアンスのある、または許可された行動をとるのに十分であることを暗示しています。本論文は、その仮定が誤りである理由を説明します。権限は、システムを制御していない当事者に証明できるときにのみ確立されます。この論文は、市場の物語でしばしば混同される3つの層を区別します:(1) 宣言された仮定の下で再現可能な出力を生成する決定論的エンジン、(2) 露出を制限し、特定の誤設定のクラスを防ぐことで運用リスクを削減するデフォルトによる安全設定、(3) 各決定をポリシー状態、証拠スナップショット、セマンティック定義、権限チェーン、時間に結び付けることにより行動を許可する決定論的ガバナンス。この結果、再生可能で独立して検証可能な認証判断(ALLOW、DENY、ESCALATE、または ABSTAIN)が生まれます。決定論と予防メカニズムは有用である一方で、独立した第三者が再構築できる権限証明が存在しなければ、コンプライアンス、責任、または説明責任に関する問いを解決しないことを主張します。システムアーキテクチャの分析を通じて、エンジンで決定論を達成するために使用される方法(制約、ソルバー、標準実行、再現可能なトレース)が、法的および組織的責任が付随する権限の境界で運営されなければならないガバナンスに自動的に適用されない理由を説明します。証明を伴う認証アーティファクトを紹介し、実行の記録であるログと独立した再構築に十分な証明アーティファクトとの間に明確な区別を引き、ガバナンスの主張に対する不適格テスト—証明が構築できない場合の拒否を含む失敗閉鎖型認証行動、及び検証者のポータビリティを呈示します。核となるテスト:検証者がポータブルでなければ、ガバナンスは証明できません。この論文はベンダー中立であり、高リスクまたは規制された環境で活動する規制当局、企業、投資家、技術リーダーに向けられています。ガバナンスはモデルに無関係な層として扱われています:それは決定論的エンジン、確率モデル、人間の決定、およびエージェントシステムに平等に適用され、出力が実世界の影響を直接引き起こすことができる場合に最も厳密になります。このバージョンは、フレームワークを拡大してエンジン、デフォルトによる安全設定、および決定論的ガバナンスを明示的に分離し、決定境界階層(展開→ポリシー→推論)で権限境界モデルを強化し、証明アーティファクトとログの苛烈な不適格基準、失敗閉鎖型認証、および独立した第三者による検証を追加します。補足資料:実世界の「決定論的AI」ガバナンスの主張にフレームワークを適用し、カテゴリ混同が実際にどのように現れるかを示す補完的事例研究(別にアップロード済み)があります。ケーススタディは技術的分類ノートです。基礎となる作業の意図や品質を評価するものではありません。
エドワード・メイマン(水曜日)はこの問題を研究しました。
Synapse has enriched 5 closely related papers on similar clinical questions. Consider them for comparative context: