ChatGPT dando consejos sobre relaciones – ¿Qué tan confiable es?

En el entorno en evolución del procesamiento de lenguaje natural (NLP), modelos de IA generativa como ChatGPT se utilizan cada vez más en diversas aplicaciones. Entre los propósitos posibles, muchas personas están considerando pedirle a ChatGPT consejos sobre relaciones. Sin embargo, la falta de un análisis profundo sobre la calidad de las respuestas de ChatGPT podría ser preocupante cuando se utiliza para temas personales como problemas de salud mental y problemas de relaciones íntimas. En estos temas, un consejo engañoso podría causar repercusiones dañinas. En respuesta al creciente interés de las personas en utilizar a ChatGPT como un asesor de relaciones, nuestra investigación evalúa la competencia de ChatGPT para discernir consejos sobre relaciones. Específicamente, investigamos su alineación con los juicios humanos. Realizamos nuestro análisis con 13,138 publicaciones de Reddit sobre problemas de relaciones íntimas para examinar la alineación general. Además, investigamos la consistencia de ChatGPT en juzgar consejos sobre relaciones íntimas al volver a formular consultas idénticas. Nuestros resultados indican una disparidad significativa entre los juicios de ChatGPT y los juicios humanos, con el modelo mostrando inconsistencia en sus propias decisiones. Nuestros hallazgos enfatizan la necesidad de obtener conocimientos exhaustivos sobre los mecanismos de ChatGPT para problemas de intimidad y mejoras futuras en su competencia para ayudar en las luchas de relación de las personas.