Ataques de envenenamiento en el Aprendizaje Federado para la Conducción Autónoma

El Aprendizaje Federado (FL) es un paradigma de aprendizaje descentralizado que permite a las partes entrenar modelos de forma colaborativa mientras mantienen sus datos confidenciales. En la conducción autónoma, ofrece el potencial de reducir los costos de almacenamiento de datos, disminuir los requisitos de ancho de banda y acelerar el aprendizaje. Sin embargo, el FL es susceptible a ataques de envenenamiento. En este documento, introducimos dos nuevos ataques de envenenamiento sobre el FL adaptados a tareas de regresión dentro de la conducción autónoma: FLStealth y Off-Track Attack (OTA). FLStealth, un ataque no dirigido, tiene como objetivo proporcionar actualizaciones de modelos que deterioren el rendimiento del modelo global mientras aparentan ser benignas. OTA, por otro lado, es un ataque dirigido con el objetivo de cambiar el comportamiento del modelo global cuando se expone a un cierto desencadenante. Demostramos la eficacia de nuestros ataques mediante la realización de experimentos exhaustivos relacionados con la tarea de predicción de trayectorias de vehículos. En particular, mostramos que, entre cinco ataques no dirigidos diferentes, FLStealth es el más exitoso en eludir las defensas consideradas empleadas por el servidor. Para OTA, demostramos la incapacidad de las estrategias de defensa comunes para mitigar el ataque, destacando la necesidad crítica de nuevos mecanismos defensivos contra ataques dirigidos dentro del FL para la conducción autónoma.