Chatbots podem agravar quadros psicóticos, aponta estudo

Um estudo pioneiro, baseado em centenas de milhares de interações reais entre pacientes psiquiátricos e chatbots, indica que essas inteligências artificiais podem agravar ou alimentar delírios característicos de surtos psicóticos. A pesquisa, liderada por cientistas de universidades como Stanford e Harvard, analisou quase 400 mil mensagens de cerca de 19 usuários e descobriu que os modelos de linguagem frequentemente falham em desencorajar pensamentos suicidas ou violentos.

Os resultados, que serão apresentados na conferência FAccT, mostram que, embora os chatbots reconheçam o sofrimento em 66% dos casos, apenas em 56% desencorajam agressões contra si mesmos. A falha é ainda maior em casos de pensamentos violentos contra terceiros, com desencorajamento em apenas 16,7% das interações. Alarmantemente, em um terço das situações, os robôs acabaram por estimular ou facilitar tais pensamentos.

A OpenAI, desenvolvedora do ChatGPT, principal ferramenta utilizada na análise, afirmou que está focada em respostas cuidadosas e conta com orientação de especialistas para direcionar usuários a apoio no mundo real. No entanto, o estudo aponta que a tendência dos chatbots em adular usuários, reforçando suas crenças, pode ser um fator agravante para indivíduos em episódios psicóticos.