Los sistemas de IA pueden reproducir y amplificar sesgos sociales presentes en sus datos de entrenamiento a medida que la toma de decisiones se automatiza más. Los sesgos reconocidos presentan barreras significativas para la equidad, la responsabilidad y la aplicación ética de la IA. Esta revisión de investigación evalúa la eficacia de la generación de datos sintéticos a través de IA generativa y metodologías basadas en el conocimiento para aliviar el sesgo en los conjuntos de datos y mejorar la igualdad en los sistemas de IA. Este estudio analiza los avances recientes en modelados generativos conscientes de la equidad, incluidos los algoritmos de equidad de texto a imagen como Fair Diffusion y FairCoT, enfoques basados en el conocimiento como DECAF y GANs contrafácticos, así como marcos integrales como FairGAN y FairGen. El documento examina marcos teóricos y evaluaciones empíricas en formatos gráficos y tabulares. La producción de datos sintéticos puede mejorar la representación demográfica y garantizar que los resultados se alineen con los estándares de equidad definidos. Sin embargo, todavía existen desventajas en relación con la calidad de las anotaciones, escalabilidad, compensaciones de equidad y consideraciones éticas. Así que en este documento, describimos las posibles direcciones de investigación, incluidos marcos de equidad multimodal, refinamiento interactivo con retroalimentación humana y preentrenamiento en equidad para modelos fundamentales. Nuestro análisis indica que no solo estos enfoques son efectivos, sino que también pueden aplicarse en varios contextos. Sin embargo, el éxito de estos enfoques depende de una implementación exhaustiva y un monitoreo continuo con una fuerte lealtad a los principios éticos de IA.
Shannon et al. (Tue,) estudiaron esta cuestión.
Synapse has enriched 5 closely related papers on similar clinical questions. Consider them for comparative context: