Les humains font-ils plus confiance aux conseils s'ils proviennent de l'IA ?

Dans les applications de soutien à la décision de l'IA, la sortie de l'algorithme IA est formulée comme une suggestion à un utilisateur humain. L'utilisateur peut ignorer ce conseil ou le prendre en compte pour modifier sa décision. Avec la prévalence croissante de telles interactions entre humains et IA, il est important de comprendre comment les utilisateurs réagissent aux conseils de l'IA. Dans cet article, nous avons recruté plus de 1100 travailleurs de foule pour caractériser comment les humains utilisent les suggestions de l'IA par rapport à des suggestions équivalentes d'un groupe d'humains proches dans plusieurs contextes expérimentaux. Nous constatons que les croyances des participants concernant les performances humaines par rapport à celles de l'IA sur une tâche donnée influencent leur attention vis-à-vis des conseils. Lorsque les participants prennent effectivement en compte le conseil, ils l'utilisent de manière similaire pour les suggestions humaines et celles de l'IA. En nous basant sur ces résultats, nous proposons un modèle "activation-intégration" en deux étapes pour le comportement humain et l'utilisons pour caractériser les facteurs qui affectent les interactions entre humains et IA.