模型卡是人工智能(AI)模型开发者与用户之间沟通关键信息的主要文档框架。这些用户通常是开发人员,寻找相关文档以确保他们的AI系统符合现有法律、指南和标准的伦理要求。最近的研究表明,模型文档实践不足,暗示AI要求与当前模型文档实践之间存在差距。为了理解这个差距并提供可操作的指导,我们对26个有关伦理和AI的指南、三个AI文档框架、三项关于模型卡的定量研究以及十个实际模型卡进行了主题分析。我们识别出与模型文档相关的43项伦理要求,并将其组织成一个包含四个主题和十二个子主题的分类法,代表伦理原则。我们的研究结果表明,模型开发者在文档中主要强调模型的能力和可靠性,而忽视其他伦理方面,如可解释性、用户自主权和公平性。这凸显了在记录伦理AI考虑时需要增强支持。我们的分类法为修订后的模型卡框架奠定了基础,全面解决伦理AI要求。
Puhlfürß等人(周四)研究了这个问题。