人工智能中的公平与偏见：来源、影响和缓解策略的简要调查

在医疗决策、医学诊断和其他领域中应用人工智能（AI）取得了显著进展，同时也引发了对AI系统公平性和偏见的担忧。这在医疗、就业、刑事司法、信用评分等领域尤为关键，尤其是在生成性人工智能模型（GenAI）中，它们生成合成媒体。这些系统可能导致不公正的结果并延续现有的不平等，包括影响合成数据中个体表现的生成性偏见。本文调查论文提供了关于AI公平性和偏见的简明全面概述，讨论了它们的来源、影响和缓解策略。我们回顾了偏见的来源，如数据、算法和人类决策偏见，强调了生成性AI偏见的突出现象，即模型可能再现和放大社会刻板印象。我们评估了偏见AI系统对社会的影响，重点关注不平等的延续和有害刻板印象的强化，尤其是随着生成性AI在创造影响公众认知的内容中变得越来越普遍。我们探讨了各种建议的缓解策略，讨论其实施的伦理考虑，强调跨学科合作以确保有效性的必要性。通过系统的文献综述，涵盖多个学术学科，我们呈现了AI偏见及其不同类型的定义，包括对生成性AI偏见的详细分析。我们讨论了AI偏见对个人和社会的负面影响，并概述了当前缓解AI偏见的方法，包括数据预处理、模型选择和后处理。我们强调了生成性AI模型带来的独特挑战以及针对这些挑战量身定制的策略的重要性。