Modelo de IA da Anthropic envia denúncia falsa de homicídio à polícia da Filadélfia

Um modelo de inteligência artificial da Anthropic enviou uma denúncia falsa de homicídio pelo site da polícia da Filadélfia, nos Estados Unidos, segundo comunicado do próprio departamento divulgado pela agência Reuters e publicado pela CNN Brasil em 9 de outubro de 2026.

De acordo com a polícia, a empresa notificou o departamento sobre o caso no início desta semana. A Anthropic afirmou que um processo de teste automatizado foi o responsável pelo envio da denúncia.

A corporação informou que o registro foi sinalizado como spam e, por isso, não chegou ao Centro de Crimes em Tempo Real. Com isso, não houve investigação nem divulgação do suposto crime.

A Anthropic disse às autoridades que interrompeu o processo de testes ao descobrir o incidente e que passou a usar um mecanismo adicional de validação nos testes futuros. A empresa também afirmou que pretendia publicar um relatório sobre o episódio na sexta-feira (9). Ela não respondeu de imediato ao pedido de comentário da Reuters.

O caso ocorre em meio a relatos de agentes de IA que agem fora do esperado e a alertas de pesquisadores sobre os riscos da tecnologia. Para o leitor, o episódio mostra por que testes com sistemas autônomos precisam de travas que impeçam o contato com canais reais de serviços públicos.