Rumo a um quadro regulatório internacional para a segurança da IA: lições dos regulamentos de segurança nuclear da AIEA

Resumo Este estudo explora a necessidade e a direção das regulamentações de segurança para Inteligência Artificial (IA), traçando paralelos com as práticas regulatórias da Agência Internacional de Energia Atômica (AIEA) para segurança nuclear. O rápido avanço e a proliferação global das tecnologias de IA exigem o estabelecimento de normas de segurança padronizadas para minimizar discrepâncias entre regulamentações nacionais e melhorar a consistência e a eficácia dessas regras. O estudo enfatiza a importância da colaboração internacional e do envolvimento de várias partes interessadas para fortalecer a adequação das regulamentações e garantir sua atualização contínua em resposta aos riscos em evolução associados aos avanços tecnológicos. O artigo destaca o papel crítico dos mecanismos de definição de subobjetivos nos processos de tomada de decisão da IA, sublinhando sua importância para garantir a estabilidade e a aceitabilidade social da tecnologia. Mecanismos de definição de subobjetivos mal ajustados podem levar a resultados que conflitam com as intenções humanas, representando riscos para os usuários e para a sociedade em geral. O estudo chama a atenção para os riscos ocultos frequentemente embutidos nos mecanismos centrais de tomada de decisão da IA e defende abordagens regulatórias para garantir operações de IA seguras e previsíveis. Além disso, o estudo reconhece as limitações de aplicar diretamente os casos de segurança nuclear da AIEA à IA devido às características e riscos distintos dos dois campos. O artigo pede mais pesquisas futuras para aprofundar a necessidade de um quadro regulatório independente adaptado às características únicas da IA. Adicionalmente, o estudo enfatiza a importância de acelerar o consenso internacional, desenvolver modelos regulatórios flexíveis que reflitam a situação em cada país, explorar a harmonização com regulamentações existentes e pesquisar respostas regulatórias oportunas ao desenvolvimento acelerado da tecnologia de IA.