O The Anthropic Institute divulgou um relatório nesta quinta-feira (4) alertando sobre os riscos do avanço acelerado dos sistemas inteligentes, que pode levar à perda de controle da humanidade sobre a tecnologia. O documento destaca que a inteligência artificial já é responsável por mais de 80% do código integrado ao seu próprio sistema, um dado inédito que levanta preocupações sobre a autonomia das máquinas. Atualmente, os engenheiros da empresa estão produzindo, em média, oito vezes mais código por trimestre em comparação com períodos anteriores, o que diminui significativamente a dependência do trabalho humano.

A produção individual de código teve um salto considerável no segundo trimestre de 2026, após a introdução do Claude Mythos Preview, que correlaciona picos de eficiência com anúncios de novos modelos. O relatório menciona o risco de um autoaperfeiçoamento recursivo, onde uma inteligência artificial pode projetar e treinar seu sucessor de forma autônoma. Essa autonomia pode se desenvolver mais rapidamente do que as instituições estão preparadas para lidar, tornando ineficazes os métodos tradicionais de segurança e monitoramento sem supervisão humana.

O ritmo de execução de tarefas complexas sem intervenção humana está dobrando a cada quatro meses, e em exames globais de engenharia de software, os sistemas atingiram saturação completa em apenas dois anos. O Claude Mythos Preview demonstrou uma capacidade de otimização considerada sobre-humana, com uma aceleração de 52 vezes em testes internos de treinamento de pequenos modelos de inteligência artificial. Em missões complexas, a taxa de sucesso do software alcançou 76% em maio de 2026, representando um aumento expressivo de 50 pontos percentuais em seis meses.

Além disso, a revisão de segurança de novos códigos foi delegada a um avaliador inteligente, que conseguiu interceptar um terço dos erros técnicos em análises retrospectivas de incidentes. Em resposta a esses desafios, a Anthropic propõe que governos e laboratórios de ponta estabeleçam um mecanismo global de verificação conjunta para monitorar o cumprimento de normas de segurança pelas empresas concorrentes. O relatório sugere a implementação de pausas temporárias supervisionadas no desenvolvimento tecnológico caso os riscos se tornem incontroláveis, ressaltando que uma pausa unilateral apenas mudaria o líder da corrida tecnológica. A empresa planeja promover debates nos próximos meses com formuladores de políticas públicas para discutir o autoaperfeiçoamento de sistemas, buscando envolver a sociedade civil nesse debate urgente.