Gobernando la seguridad de la inteligencia artificial en la atención médica

La inteligencia artificial (IA) tiene un enorme potencial para mejorar la seguridad de la atención médica, desde aumentar la precisión diagnóstica, hasta optimizar la planificación del tratamiento, hasta predecir los resultados de la atención. Sin embargo, la integración de tecnologías de IA en la prestación de atención médica probablemente introducirá una serie de nuevos riesgos y amplificará los existentes. Por ejemplo, las fallas en el software de uso común tienen el potencial de afectar rápidamente a grandes cantidades de pacientes; supuestos ocultos en los datos y modelos subyacentes pueden llevar a sistemas de IA a ofrecer recomendaciones peligrosas que son insensibles a los procesos de atención locales, y técnicas de IA opacas como el aprendizaje profundo pueden dificultar enormemente la explicación y el aprendizaje de los fracasos. Para maximizar los beneficios de la IA en la atención médica y construir confianza entre pacientes y profesionales, será esencial gobernar de manera robusta los riesgos que la IA plantea para la seguridad del paciente. En una revisión reciente en esta revista, Challen y colegas presentan un análisis importante y oportuno de algunos de los riesgos tecnológicos clave asociados con la aplicación del aprendizaje automático en entornos clínicos. El aprendizaje automático es un subcampo de la IA que se centra en el desarrollo de algoritmos que son derivados y optimizados automáticamente a través de la exposición a grandes cantidades de datos de 'entrenamiento'. Las salidas de los algoritmos de aprendizaje automático son esencialmente clasificaciones de patrones que proporcionan algún tipo de predicción; por ejemplo, predecir si una imagen muestra un melanoma maligno o un lunar benigno. Algunas de las técnicas básicas del aprendizaje automático han existido durante medio siglo o más, pero el progreso en el campo ha acelerado rápidamente debido a los avances en el desarrollo de redes neuronales artificiales 'profundas' combinados con enormes aumentos en la potencia computacional y la disponibilidad de enormes cantidades de datos. Estas técnicas han sustentado recientes demostraciones públicas de sistemas de IA ...