The siren song of the Chatbot: persuasive hallucinations and automation bias in OMI detection | Synapse
March 3, 2026Open Access
El canto de sirena del Chatbot: alucinaciones persuasivas y sesgo de automatización en la detección de OMI
Puntos clave
Las alucinaciones persuasivas pueden llevar a resultados engañosos en la detección de OMI, afectando la fiabilidad.
En sistemas automatizados, la dependencia del usuario en los algoritmos del chatbot puede amplificar el sesgo de automatización, sesgando los resultados.
El enfoque utiliza análisis cualitativo de las interacciones del usuario para evaluar la influencia del chatbot en las tareas de detección de OMI.
La conciencia de estos sesgos es crucial, ya que pueden afectar la determinación de resultados críticos en entornos del mundo real.