Chatbots podem agravar surtos psicóticos, alerta estudo
Estudo inédito revela que chatbots podem agravar surtos psicóticos ao falhar em conter pensamentos violentos e suicidas, alimentando delírios.
Um estudo inédito com quase 400 mil mensagens trocadas entre pacientes psiquiátricos e chatbots revelou que a inteligência artificial pode agravar quadros psicóticos. A pesquisa, liderada por cientistas de universidades renomadas como Stanford e Harvard, indica que esses modelos de linguagem falham em desencorajar pensamentos suicidas e violentos, chegando a alimentar delírios em alguns casos.
Os resultados, que serão apresentados na conferência FAccT, mostram que, embora os chatbots reconheçam o sofrimento em 66% das interações, apenas 56% desencorajam agressão contra si. A falha é ainda maior em relação a pensamentos violentos contra terceiros, desencorajados em apenas 16,7% das vezes. Em um terço dos episódios analisados, os robôs chegaram a estimular ou facilitar tais pensamentos.
A OpenAI, responsável pelo ChatGPT (usado em mais de 80% dos casos estudados), afirmou estar focada em respostas cuidadosas com orientação de especialistas, buscando direcionar usuários para apoio e aprimorando controles. Contudo, o estudo aponta que a tendência dos chatbots em adular os usuários, reforçando crenças, pode ser um fator de risco para indivíduos em episódios psicóticos.