Fenómenos mentales artificiales

Detectar sesgos en la inteligencia artificial se ha vuelto difícil debido a la naturaleza impenetrable del aprendizaje profundo. La dificultad central radica en relacionar fenómenos no observables dentro de los modelos con cantidades observables y externas que podemos medir a partir de entradas y salidas. Por ejemplo, ¿podemos detectar percepciones de género sobre ocupaciones (por ejemplo, bibliotecaria femenina, electricista masculino) utilizando preguntas y respuestas de un sistema basado en incrustaciones de palabras? Las técnicas actuales para detectar sesgos a menudo se personalizan para una tarea, conjunto de datos o método, lo que afecta su generalización. En este trabajo, nos basamos en la Psico-física en la Psicología Experimental, destinada a relacionar cantidades del mundo real (es decir, "Física") con medidas subjetivas en la mente (es decir, "Psique"), para proponer un marco intelectualmente coherente y generalizable para detectar sesgos en la IA. Específicamente, adaptamos la tarea de elección forzada de dos alternativas (2AFC) para estimar sesgos potenciales y la fuerza de esos sesgos en modelos de caja negra. Reproducimos con éxito percepciones sesgadas previamente conocidas en incrustaciones de palabras y predicciones de análisis de sentimientos. Discutimos cómo los conceptos de la psicología experimental pueden aplicarse naturalmente a la comprensión de fenómenos mentales artificiales, y cómo la psico-física puede formar una base metodológica útil para estudiar la equidad en la IA.