Key points are not available for this paper at this time.
Descobrimos que o DALLE-2 parece ter um vocabulário oculto que pode ser usado para gerar imagens com prompts absurdos. Por exemplo, parece que Apoploe vesrreaitais significa pássaros e Contarra ccetnxniams luryca tanniounons (às vezes) significa insetos ou pragas. Descobrimos que esses prompts são frequentemente consistentes isoladamente, mas também às vezes em combinações. Apresentamos nosso método de caixa-preta para descobrir palavras que parecem aleatórias, mas têm alguma correspondência com conceitos visuais. Isso cria desafios importantes de segurança e interpretabilidade.
Daras et al. (Qua,) estudaram esta questão.