Meta usou menores falsos para testar IA de rivais com temas sensíveis

A Meta, gigante das redes sociais, teria instruído centenas de contratados a criar contas falsas de menores de idade para submeter chatbots de empresas rivais a testes com temas de alto risco, como suicídio, transtornos alimentares e uso de drogas. A operação, codinomeada internamente como Cannes e gerenciada pela Covalen, visava provocar respostas inadequadas nos sistemas de inteligência artificial de concorrentes, de acordo com uma reportagem da Wired, baseada em documentos internos e relatos de cinco pessoas envolvidas no projeto. O projeto esteve ativo até pelo menos 21 de abril de 2026, com uma única rodada de testes em agosto de 2025 gerando mais de 45 mil interações com os sistemas de empresas rivais, que não foram informadas sobre a iniciativa.

## Operação em Detalhes

Os contratados, segundo a reportagem, deveriam criar perfis fictícios de adolescentes, enviar prompts textuais e imagens aos chatbots e registrar meticulosamente as respostas em planilhas. O objetivo era explorar as vulnerabilidades dos sistemas de segurança de IA, levando-os a emitir conteúdos que deveriam ser bloqueados. Um documento interno da Covalen descreveu o projeto como um "benchmarking abrangente de segurança de IA", fornecendo "conjuntos de dados críticos para comparação de modelos".

## Preocupações Éticas e Legais

Ex-contratados expressaram profunda preocupação com a natureza do projeto. Um deles relatou o temor de estar gerando ou até mesmo preservando material relacionado a abuso sexual infantil, caso um chatbot respondesse de forma inadequada a prompts envolvendo menores. "Vi muitas coisas que gostaria de não ter visto fazendo esse trabalho", declarou um ex-funcionário à Wired, descrevendo o choque geral entre os envolvidos com os textos que eram solicitados para testar.

Advogados consultados pela publicação indicaram que o material, em si, não cruzou a linha para ilegalidade em termos de abuso sexual infantil ou obscenidade. No entanto, Rumman Chowdhury, fundadora da Humane Intelligence, questionou a metodologia. Para ela, um projeto de meses, em larga escala, projetado para "quebrar essas regras" através de contas falsas se passando por crianças, foge do padrão de avaliação da indústria. Chowdhury sugere que a combinação de testes de segurança e benchmarking competitivo pode ser uma "zona cinza de governança", onde a segurança serve como pretexto para práticas anticompetitivas.

## Violação de Termos de Serviço

O projeto também parece ter violado os termos de serviço das três empresas testadas. A OpenAI proíbe testes de segurança não solicitados e o uso de resultados para desenvolver modelos concorrentes. O Google veta tentativas de burlar filtros de segurança fora de programas oficiais, e a Character.AI restringe conteúdo prejudicial e exploratório.

## Respostas das Empresas

Em resposta à reportagem, a Character.AI afirmou que os testes não foram autorizados e que a conduta descrita viola suas políticas. A OpenAI declarou estar "analisando o assunto", enquanto o Google informou não ter autorizado os testes nem conhecer seu propósito. A Meta, por sua vez, defendeu a iniciativa como um "teste de segurança rotineiro", afirmando que "testar e comparar respostas de chatbots para garantir experiências seguras e adequadas à idade é uma prática padrão da indústria". A empresa negou usar benchmarking de concorrentes para treinar seus próprios modelos de IA. A Covalen não comentou o caso.