Rumo à Inteligência Geral de Borda com Múltiplos Modelos de Linguagem Grande (Multi-LLM): Arquitetura, Confiança e Orquestração

A computação de borda permite o processamento de dados em tempo real mais próximo de sua fonte, melhorando assim a latência e o desempenho das aplicações de IA habilitadas para borda. No entanto, os modelos preditivos de IA muitas vezes ficam aquém ao lidar com tarefas complexas e dinâmicas que requerem raciocínio avançado e processamento de dados multimodais. Esta pesquisa explora a integração de multi-LLMs (Modelos de Linguagem Grande) para enfrentar esses desafios na computação de borda, onde múltiplos LLMs especializados colaboram para melhorar o desempenho e a adaptabilidade das tarefas em ambientes com recursos limitados. Revisamos a transição dos modelos convencionais de IA de borda para a implementação de um único LLM e, em última instância, para sistemas multi-LLM. A pesquisa discute tecnologias habilitadoras, como orquestração dinâmica, agendamento de recursos e transferência de conhecimento entre domínios, que são fundamentais para a implementação de multi-LLM. Um foco central é em sistemas multi-LLM confiáveis, garantindo tomada de decisão robusta em ambientes onde a confiabilidade e a privacidade são cruciais. Também apresentamos arquiteturas multimodais multi-LLM, onde múltiplos LLMs se especializam no manuseio de diferentes modalidades de dados, como texto, imagens e áudio, integrando suas saídas para uma análise abrangente. Por fim, destacamos direções futuras, incluindo a melhoria da eficiência de recursos, governança confiável de sistemas multi-LLM, abordando preocupações com privacidade, confiança e robustez. Esta pesquisa fornece uma referência valiosa para pesquisadores e profissionais que buscam aproveitar sistemas multi-LLM em aplicações de computação de borda.