EU AI法案下针对高风险医疗系统的隐私保护与攻击感知AI方法

人工智能（AI）通过集成高度先进的算法以改善诊断、患者监测和治疗规划，显著推动了医疗领域的发展。然而，依赖敏感健康数据和自动决策使此类系统面临日益增加的隐私泄露风险，并受到严格的监管监督。尤其是，EU AI法案将涉及医疗保健的AI使用归类为“高风险”，因此要求应用与透明度、安全性和隐私相关的严格规定。本文对可能针对基于机器学习（ML）的医疗系统的多种隐私攻击进行了全面概述，包括以数据为中心和以模型为中心的攻击。我们提出了一种新颖的隐私保护架构，将联邦学习与安全计算协议结合在一起，尽量减少数据暴露，同时确保强大的模型性能。我们概述了一种符合EU AI法案规范和GDPR标准的持续监控机制，以进一步提高信任和合规性。我们还详细阐述了一种独立的自适应算法，该算法根据风险严重性、计算能力和监管环境等上下文因素自动调整加密保护级别。该研究旨在为在新兴法规下设计值得信赖的高风险医疗AI系统提供蓝图，通过深入审查特定于机器学习的隐私威胁并提出整体技术解决方案。