Una revisión sistemática de la literatura sobre el impacto de los modelos de IA en la seguridad de la generación de código

Introducción La Inteligencia Artificial (IA) se utiliza cada vez más como una ayuda para desarrollar programas informáticos. Si bien puede impulsar el desarrollo de software y mejorar la competencia en programación, esta práctica no ofrece garantía de seguridad. Por el contrario, investigaciones recientes muestran que algunos modelos de IA producen software con vulnerabilidades. Esta situación lleva a la pregunta: ¿Qué tan serias y extendidas son las fallas de seguridad en el código generado utilizando modelos de IA? Métodos A través de una revisión sistemática de la literatura, este trabajo revisa el estado del arte sobre cómo los modelos de IA impactan la seguridad del software. Sistemática el conocimiento sobre los riesgos de usar IA en el código de software crítico en seguridad. Resultados Se revisa qué fallas de seguridad de vulnerabilidades bien conocidas (por ejemplo, las 25 debilidades de software más peligrosas del MITRE CWE) suelen estar ocultas en el código generado por IA. También se revisan trabajos que discuten cómo las vulnerabilidades en el código generado por IA pueden ser explotadas para comprometer la seguridad y se enumeran los intentos de mejorar la seguridad de dicho código generado por IA. Discusión En general, este trabajo proporciona una visión general integral y sistemática del impacto de la IA en la programación segura. Este tema ha suscitado interés y preocupación dentro de la comunidad de ingeniería de seguridad del software. Destaca la importancia de establecer medidas y procesos de seguridad, como la verificación de código, y que tales prácticas podrían personalizarse para la producción de código asistida por IA.