大型医疗系统中促进临床AI应用安全与公平部署的治理机制：关键要素与早期成效

在医疗保健领域成功部署和有效采纳AI的关键挑战之一，是医疗系统层面对AI应用的治理。这种治理不仅对保障患者安全和明确医疗系统责任至关重要，而且对于树立临床医生的信任、提高采纳度并促进有意义的健康结局也必不可少。在本案例研究中，我们描述了 University of Wisconsin Health (UWH) 建立的这样一套治理架构，该架构对AI应用实施全流程监督，涵盖有效性及用户可接受性评估、安全部署以及对有效性的持续监测。我们的架构依托一个多学科指导委员会以及针对具体项目的各分委会。委员会成员构建了涵盖信息学、数据科学、临床运营、伦理和公平性的多利益相关方视角。该架构包含指导原则，为审核批准AI应用的初始部署和后续持续使用提供了切实可行的参数标准。委员会的职责是确保所有应用均遵循可解释性、准确性和公平性原则。为了落实这些原则，我们提供了一条价值流，以便在临床实施的不同阶段应用AI治理原则。该架构有效推动了AI应用的临床采纳。有效的治理带来了多项成果：(1) 建立了清晰且制度化的监督与认可架构；(2) 形成了兼顾技术、临床和运营考量的成功部署路径；(3) 建立了持续监测流程，以确保解决方案随着临床实践和疾病患病率的演变仍保持可接受性；(4) 纳入了指导AI应用合乎伦理且公平使用的规范准则。