La IA generativa (GAI) está remodelando la forma en que los jóvenes interactúan con la tecnología. Este estudio presenta una taxonomía de riesgos asociados con las interacciones entre jóvenes y GAI, derivada de un análisis de 344 transcripciones de chat entre jóvenes y chatbots de GAI, 30,305 discusiones en Reddit sobre la participación de los jóvenes con estos sistemas, y 153 incidentes documentados relacionados con la IA. Categorizamos los riesgos en seis temas generales, identificando 84 riesgos específicos, que alineamos además con cuatro caminos de interacción distintos. Nuestros hallazgos destacan preocupaciones emergentes, como los riesgos para el bienestar mental, el desarrollo social y conductual, y nuevas formas de toxicidad, violaciones a la privacidad, y uso/explotación indebido que no se abordan completamente en los marcos existentes sobre la seguridad en línea de los niños o los riesgos de la IA. Al fundamentar sistemáticamente nuestra taxonomía en datos empíricos, este trabajo ofrece un enfoque estructurado para ayudar a desarrolladores de IA, educadores, cuidadores y formuladores de políticas a comprender y mitigar los riesgos asociados con las interacciones entre jóvenes y GAI.
Yu et al. (Sat,) estudiaron esta cuestión.