La necesidad de una visión sistémica para regular el software basado en inteligencia artificial/aprendizaje automático como dispositivo médico

Los sistemas de inteligencia artificial (IA) y aprendizaje automático (AA) en medicina están en condiciones de mejorar significativamente la atención médica, por ejemplo, ofreciendo diagnósticos más tempranos de enfermedades o recomendando planes de tratamiento óptimamente individualizados. Sin embargo, la aparición de IA/AA en medicina también crea desafíos que los reguladores deben atender. ¿Qué productos médicos basados en IA/AA deben ser revisados por los reguladores? ¿Qué evidencia debe ser requerida para permitir la comercialización de software basado en IA/AA como dispositivo médico (SaMD)? ¿Cómo podemos asegurar la seguridad y efectividad de SaMD basados en IA/AA que pueden cambiar con el tiempo a medida que se aplican a nuevos datos? La Administración de Alimentos y Medicamentos de EE. UU. (FDA), por ejemplo, ha propuesto recientemente un documento de discusión para abordar algunos de estos problemas. Pero se le escapa un punto importante: sostenemos que los reguladores como la FDA necesitan ampliar su alcance de evaluar productos médicos basados en IA/AA a evaluar sistemas. Este cambio de perspectiva - de una visión de producto a una visión sistémica - es central para maximizar la seguridad y eficacia de la IA/AA en la atención médica, pero también plantea desafíos significativos para agencias como la FDA que están acostumbradas a regular productos, no sistemas. Ofrecemos varias sugerencias para que los reguladores hagan esta transición desafiante pero importante.