Formulation participative de problèmes pour un apprentissage automatique plus équitable grâce à la dynamique systémique basée sur la communauté

Des recherches récentes sur l'équité algorithmique ont mis en évidence que la phase de formulation des problèmes dans le développement des systèmes d'apprentissage automatique peut constituer une source clé de biais ayant des impacts significatifs sur les résultats en matière d'équité des systèmes d'apprentissage automatique. Cependant, très peu d'attention a été accordée aux méthodes d'amélioration de l'efficacité en matière d'équité de cette phase critique du développement des systèmes d'apprentissage automatique. Les pratiques actuelles ne tiennent pas compte de la complexité dynamique des domaines à enjeux élevés ni n'incorporent les perspectives des parties prenantes vulnérables. Dans cet article, nous introduisons la dynamique systémique basée sur la communauté (CBSD) comme une approche permettant la participation des parties prenantes généralement exclues dans la phase de formulation des problèmes du processus de développement des systèmes d'apprentissage automatique et facilitant la compréhension approfondie des problèmes nécessaire pour atténuer le biais durant cette étape cruciale.