Una revisión sistemática de la literatura sobre la confianza del usuario en sistemas habilitados por IA: Una perspectiva de HCI

La confianza del usuario en los sistemas habilitados por Inteligencia Artificial (IA) ha sido cada vez más reconocida y comprobada como un elemento clave para fomentar la adopción. Se ha sugerido que los sistemas habilitados por IA deben ir más allá de enfoques centrados en la tecnología y avanzar hacia un enfoque más centrado en el ser humano, un principio fundamental del campo de la interacción humano-computadora (HCI). Esta revisión tiene como objetivo proporcionar una visión general de las definiciones de confianza del usuario, factores que influyen y métodos de medición a partir de 23 estudios empíricos para obtener información útil para futuras estrategias técnicas y de diseño, investigación e iniciativas para calibrar la relación usuario-IA. Los hallazgos confirman que hay más de una forma de definir la confianza. Seleccionar la definición de confianza más apropiada para reflejar la confianza del usuario en un contexto específico debería ser el enfoque en lugar de comparar definiciones. Se ha encontrado que la confianza del usuario en los sistemas habilitados por IA está influenciada por tres temas principales, a saber, consideraciones socio-éticas, características técnicas y de diseño, y características del usuario. Las características del usuario dominan los hallazgos, reforzando la importancia de la participación del usuario desde el desarrollo hasta el monitoreo de los sistemas habilitados por IA. También se ha encontrado que diferentes contextos y varias características tanto de los usuarios como de los sistemas influyen en la confianza del usuario, destacando la importancia de seleccionar y adaptar las características del sistema de acuerdo con las características del grupo de usuarios objetivo. Es importante destacar que las consideraciones socio-éticas pueden allanar el camino para asegurar que el entorno donde ocurren las interacciones usuario-IA sea suficientemente propicio para establecer y mantener una relación de confianza. En la medición de la confianza del usuario, se ha encontrado que las encuestas son el método más común, seguidas de entrevistas y grupos focales. En conclusión, la confianza del usuario debe abordarse directamente en cada contexto donde se utilizan o discuten los sistemas habilitados por IA. Además, calibrar la relación usuario-IA requiere encontrar el equilibrio óptimo que funcione no solo para el usuario, sino también para el sistema.