Uma Estrutura de Superalinhamento em Condução Autônoma com Modelos de Linguagem Grande

No último ano, avanços significativos foram feitos nos campos dos modelos de linguagem grande (LLMs) e modelos de linguagem grande multi-modais (MLLMs), particularmente em sua aplicação à condução autônoma. Esses modelos mostraram habilidades notáveis em processar e interagir com informações complexas. Na condução autônoma, LLMs e MLLMs são amplamente utilizados, exigindo acesso a dados sensíveis do veículo, como localizações precisas, imagens e condições das estradas. Esses dados são transmitidos para uma nuvem de inferência baseada em LLM para análise avançada. No entanto, preocupações surgem em relação à segurança dos dados, uma vez que a proteção contra vazamentos de dados e privacidade depende principalmente das medidas de segurança inerentes do LLM, sem uma avaliação adicional das saídas de inferência do LLM. Apesar de sua importância, o aspecto de segurança dos LLMs na condução autônoma permanece pouco explorado. Abordando essa lacuna, nossa pesquisa introduz uma nova estrutura de segurança para veículos autônomos, utilizando uma abordagem de LLM multiagente. Esta estrutura foi projetada para proteger informações sensíveis associadas a veículos autônomos contra vazamentos potenciais, ao mesmo tempo em que garante que as saídas do LLM respeitem as regulamentações de condução e estejam alinhadas com os valores humanos. Ela inclui mecanismos para filtrar consultas irrelevantes e verificar a segurança e confiabilidade das saídas do LLM. Utilizando esta estrutura, avaliamos os aspectos de segurança, privacidade e custo de onze pistas de condução autônoma impulsionadas por modelos de linguagem grande. Além disso, realizamos testes de QA nessas sugestões de condução, que demonstraram com sucesso a eficácia da estrutura.