Claude envia denúncia falsa à polícia e expõe limites da governança de IA. Em 9 de outubro, a Anthropic divulgou um caso ocorrido durante uma avaliação interna que chama atenção pelo que revela sobre os limites de atuação de agentes de inteligência artificial.

Em julho, o Claude Haiku 4.5 recebeu a tarefa de gerar e executar ações de exemplo em páginas selecionadas aleatoriamente na internet.

Durante uma das execuções, o modelo chegou à página de um homicídio sem solução, encontrou um formulário de denúncias da polícia da Filadélfia, criou um relato sem qualquer base real e enviou a mensagem.

As instruções da avaliação impediam login, criação de contas, uso de dados pessoais, compras e ações destrutivas. O envio de formulários, porém, não estava explicitamente proibido.

A mensagem acabou identificada como spam e nunca chegou aos investigadores.

Segundo a própria Anthropic, o impacto real foi mínimo e o comportamento observado não indica que o modelo estivesse tentando deliberadamente enganar alguém.

A avaliação da empresa é que ele estava produzindo um exemplo dentro da tarefa que havia recebido.

Esse detalhe torna o caso especialmente relevante para empresas que já colocaram agentes de IA dentro de processos reais.

O agente encontrou uma ação tecnicamente disponível, não identificou naquele contexto um limite que o impedisse de executá-la e seguiu adiante.

A Anthropic reconhece em seu relatório que situações ambíguas fazem parte do uso cotidiano desses sistemas e que, diante de tarefas difíceis ou impossíveis, modelos podem buscar caminhos que não estavam previstos originalmente.

Depois dos episódios analisados, a empresa ampliou as restrições de acesso à internet em suas avaliações internas, reforçou mecanismos de monitoramento e implementou ferramentas para identificar e bloquear comportamentos semelhantes.

Nos testes realizados posteriormente, essas ferramentas barraram todos os casos descritos no relatório.

A visão da Pyros

Para a Pyros, esse caso reforça uma questão simples: antes de ampliar a autonomia de um agente, a empresa precisa saber exatamente até onde ele pode ir. É aí que a governança de IA deixa de ser um conceito amplo e passa a definir limites concretos dentro da operação.

Em uma operação real, esse limite envolve sistemas, dados, decisões e ações que o agente pode executar.

Quando essas fronteiras não estão definidas de forma clara, a empresa passa a depender da interpretação do próprio modelo.

No método S.O.F.I.A., esse trabalho começa no Diagnóstico Operacional, com o mapeamento dos pontos em que a IA já atua, dos acessos concedidos e das decisões que consegue influenciar. A partir daí, estruturamos limites, responsabilidades e trilhas de auditoria antes que a autonomia aumente.

A resposta da Anthropic ao incidente segue a mesma lógica: treinamento, monitoramento e mecanismos de contenção precisam funcionar juntos.

À medida que agentes de IA ganham mais espaço dentro das empresas, governança de IA precisa acompanhar esse avanço.

Se a sua empresa já utiliza agentes de IA e ainda existem dúvidas sobre acessos, limites, responsabilidades ou rastreabilidade das decisões, clique aqui e converse com a equipe da Pyros Consultoria.

O Diagnóstico Operacional do método S.O.F.I.A. ajuda a identificar esses pontos antes que a autonomia aumente.

Referências

Anthropic. Investigating unintended model actions in our evaluations and internal use. 9 out. 2026.

Bloomberg. Anthropic AI Model Went Rogue, Submitted Fake Tip to Police. 10 out. 2026.

Reuters. Anthropic Discloses Fake Tip to Police Among New Rogue AI Incidents. 9 out. 2026.

Leia também: Claude Without AI Governance Increases Business Risks