Key points are not available for this paper at this time.
O ChatGPT é um modelo de linguagem de IA altamente avançado que ganhou popularidade generalizada. Ele é treinado para entender e gerar linguagem humana e é utilizado em várias aplicações, incluindo atendimento ao cliente automatizado, chatbots e geração de conteúdo. Embora tenha o potencial de oferecer muitos benefícios, também existem preocupações quanto ao seu potencial para uso indevido, particularmente no que diz respeito à oferta de informações relacionadas à segurança que podem ser inadequadas ou prejudiciais. Para explorar as capacidades do ChatGPT (especificamente a versão 3.5) em fornecer conselhos relacionados à segurança, um consórcio multidisciplinar de especialistas foi formado para analisar nove casos em diferentes domínios de segurança: uso de telefones celulares enquanto se dirige, supervisão de crianças perto da água, diretrizes de gerenciamento de multidões, precauções para prevenir quedas em pessoas idosas, poluição do ar ao se exercitar, intervir quando um colega está angustiado, gerenciar demandas de trabalho para prevenir burnout, proteger dados pessoais em aplicativos de fitness e fadiga ao operar máquinas pesadas. Os especialistas concluíram que há potencial para riscos significativos ao usar o ChatGPT como fonte de informações e conselhos para questões de segurança. O ChatGPT forneceu declarações incorretas ou potencialmente prejudiciais e enfatizou a responsabilidade individual, levando potencialmente a uma falácia ecológica. O estudo destaca a necessidade de cautela ao usar o ChatGPT para informações relacionadas à segurança e verificação por especialistas, bem como a necessidade de considerações éticas e salvaguardas para garantir que os usuários compreendam as limitações e recebam conselhos apropriados, especialmente em países de baixa e média renda. Os resultados desta investigação servem como um lembrete de que, embora a tecnologia de IA continue a avançar, deve-se ter cautela para garantir que suas aplicações não representem uma ameaça à segurança pública.
Oviedo-Trespalacios et al. (Sat,) estudaram essa questão.