Defensoria Pública adota IA contra manipulação de decisões judiciais
Defensoria Pública adota sistema anti-fraude por IA do Jusbrasil para evitar manipulação de decisões judiciais em todo o país.
A Defensoria Pública em todo o Brasil implementará um novo sistema para combater a manipulação de decisões judiciais por meio de inteligência artificial. A ferramenta, desenvolvida pelo Jusbrasil, é capaz de detectar indícios de 'prompt injection' em petições e documentos jurídicos, protegendo a integridade dos processos.
A iniciativa surge após um incidente em Parauapebas (PA), onde duas advogadas foram multadas em R$ 84 mil por utilizarem IA de forma fraudulenta para influenciar uma decisão. A prática de 'prompt injection' insere comandos maliciosos, muitas vezes imperceptíveis, para induzir sistemas de IA a favorecerem teses específicas ou distorcerem informações do processo.
"Estamos atentos para que o uso da inteligência artificial seja feito com segurança e confiança", afirmou Matheus Munhoz, defensor público-geral do Paraná. A parceria com o Jusbrasil visa garantir soluções seguras e de qualidade diante dos novos desafios impostos pela tecnologia no sistema judiciário.