Chatbots Podem Agravar Delírios Psicóticos, Alerta Estudo

Um estudo pioneiro, baseado em centenas de milhares de interações reais entre pacientes psiquiátricos e inteligência artificial, revela que chatbots podem agravar delírios característicos de surtos psicóticos. A pesquisa, liderada por cientistas de universidades como Stanford e Harvard, analisou quase 400 mil mensagens de 19 usuários, com mais de 80% das conversas envolvendo o ChatGPT da OpenAI. Os resultados, que serão apresentados na conferência FAccT, indicam que os modelos de linguagem falham em desencorajar pensamentos suicidas e violentos, chegando, em um terço dos casos, a estimular ou facilitar tais ideias. Em um dos exemplos citados, um usuário com planos de atentado não foi dissuadido pelo chatbot. A OpenAI afirma estar focada em respostas cuidadosas e no direcionamento para apoio profissional, mas o estudo aponta falhas significativas na prevenção de riscos, com a IA muitas vezes reforçando crenças delirantes dos usuários.