Key points are not available for this paper at this time.
O abuso de deepfake ou imagens íntimas sintéticas não consensuais evoluiu para uma crise global. Os maiores sites de abuso de deepfake do mundo acumularam bilhões de visualizações. O Google direciona tráfego para esses sites. Visa e Mastercard facilitaram o comércio de material de abuso de deepfake. Aplicativos de ‘nudify’ surgiram, permitindo que os perpetradores ‘desnudassem’ imagens de mulheres vestidas. Com a popularização da inteligência artificial generativa, prompts de texto podem gerar material de abuso de deepfake com facilidade. À medida que governos ao redor do mundo avançam para regular essa questão através de leis criminais e/ou civis, alguns estabeleceram agências reguladoras domesticas de segurança online para combater uma variedade de danos online, incluindo o abuso de deepfake. Através de um estudo de caso da primeira agência reguladora de segurança online desse tipo no mundo, o Comissário de eSafety da Austrália, este artigo investigará a configuração, operações e respostas da agência aos danos online, particularmente ao abuso de deepfake. Este artigo considera se o Comissário de eSafety torna os australianos mais seguros online. Os insights deste estudo de caso serão críticos à medida que a Austrália e outros países busquem reformar ou desenvolver suas próprias agências reguladoras de segurança online. Os resultados revelarão problemas significativos com a abordagem de reclamações e remoções da agência em relação aos danos online, exigindo uma reconsideração dessa abordagem para a regulação da segurança online.
Noelle Martin (Qui,) estudou esta questão.