定义AMIA的人工智能原则

最近在人工智能（AI）科学和技术方面的进展，以及在医疗保健和其他服务中部署的人工智能系统数量的增加，使人们关注伦理原则和治理的必要性。我们定义并提供了一套应指导人工智能系统的委托、创建、实施、维护和退役的原则，为整个生命周期的治理奠定基础。一些原则来源于医学和医疗保健中的常见实践和研究要求：首先是行善、不伤害、自治和正义。随后是一组源自人工智能系统创建和工程的原则：技术的可解释性用通俗的术语；可理解性，即对决策的合理推理；公平性和无偏见；可靠性，包括“安全失败”；为决策提供审计轨迹；以及对知识库的主动管理，以保持最新并对环境变化敏感。在组织层面，这些原则要求善意——通过使用人工智能做好事；透明度，确保所有假设和可能的利益冲突得到声明；以及问责制，包括对人工智能系统的主动监督和管理可能出现的任何风险。特别需要关注弱势群体的情况，必须格外小心。最后，这些原则强调在与人工智能的所有接触层面上进行用户教育的必要性，以及对人工智能及其生物医学和医疗保健应用的持续研究。