A persuasão é um aspecto fundamental da comunicação, influenciando a tomada de decisões em diversos contextos, desde conversas cotidianas até cenários de alto risco, como política, marketing e direito. O surgimento de sistemas de IA conversacional expandiu significativamente o escopo da persuasão, introduzindo tanto oportunidades quanto riscos. A persuasão orientada por IA pode ser aproveitada para aplicações benéficas, mas também apresenta ameaças através de influências antiéticas. Além disso, os sistemas de IA não são apenas persuasores, mas também suscetíveis à persuasão, tornando-os vulneráveis a ataques adversariais e reforço de preconceitos. Apesar dos avanços rápidos na geração de conteúdo persuasivo por IA, nossa compreensão sobre o que torna a persuasão eficaz permanece limitada devido à sua natureza inerentemente subjetiva e dependente de contexto. Nesta pesquisa, fornecemos uma visão abrangente da persuasão, estruturada em torno de três perspectivas-chave: (1) IA como Persuasor, que explora o conteúdo persuasivo gerado por IA e suas aplicações; (2) IA como Persuadido, que examina a susceptibilidade da IA à influência e manipulação; e (3) IA como Juiz da Persuasão, que analisa o papel da IA na avaliação de estratégias persuasivas, detecção de manipulação e garantia de persuasão ética. Apresentamos uma taxonomia para a pesquisa em persuasão e discutimos os principais desafios para pesquisas futuras para melhorar a segurança, justiça e eficácia da persuasão impulsionada por IA, abordando os riscos apresentados por modelos de linguagem cada vez mais capazes.
Bozdag et al. (Qui,) estudaram essa questão.