“Momento de perigo”: CEO da Anthropic alerta para janela crítica de segurança antes que a IA vire arma em escala
A IA já encontrou dezenas de milhares de vulnerabilidades em softwares críticos. Você tem de 6 a 12 meses para agir antes que isso chegue às mãos erradas.
No dia 5 de maio, Dario Amodei, CEO da Anthropic, dividiu o palco com Jamie Dimon, CEO do JPMorgan Chase, num evento da Anthropic voltado para o setor financeiro, em Nova York. O que parecia ser mais uma apresentação corporativa sobre agentes de IA para bancos rapidamente tomou outro tom quando o moderador Andrew Ross Sorkin, da CNBC, fez a pergunta direta: “O alarmismo sobre ataques cibernéticos habilitados por IA é justificado?”
Ambos os executivos hesitaram. A plateia riu. E então veio a resposta mais preocupante possível: nenhum dos dois disse que não.
O que a IA da Anthropic encontrou
O modelo Mythos — o mais recente e restrito da Anthropic — foi colocado à prova num teste com o navegador Firefox. Uma versão anterior dos modelos Claude havia identificado cerca de 20 vulnerabilidades no mesmo software. O Mythos encontrou quase 300 em uma única varredura. Em outros sistemas, o número total de falhas detectadas já chega às dezenas de milhares — muitas delas décadas-antigas, escondidas em camadas de código que nenhum time humano de segurança havia vasculhado com essa profundidade.
Mais preocupante: em testes controlados, o Mythos completou simulações de ataque em múltiplas etapas sem intervenção humana, indo da identificação da falha à exploração dela de forma autônoma.
A maior parte dessas vulnerabilidades ainda não foi divulgada publicamente porque os sistemas ainda não foram corrigidos. Amodei foi direto:
“Se anunciarmos algo sem que esteja consertado, os bandidos vão explorar.”
A janela que está se fechando
O alerta central de Amodei foi temporal: há uma janela de 6 a 12 meses para que governos, bancos e empresas de tecnologia corrijam o máximo possível dessas falhas — antes que modelos com capacidades semelhantes estejam disponíveis para atores mal-intencionados. A referência implícita é à China: modelos chineses de IA estariam, segundo Amodei, apenas alguns meses atrás.
“O perigo é um enorme aumento na quantidade de vulnerabilidades, no volume de brechas, no dano financeiro causado por ransomware em escolas, hospitais — e nem falo só de bancos”, disse ele.
Jamie Dimon foi direto ao ponto quando questionado sobre os maiores riscos do JPMorgan: “Cyber é o nosso maior risco.”
A Anthropic já restringiu o acesso ao Mythos a um grupo reduzido de parceiros corporativos, sob um programa chamado Project Glasswing, justamente para acelerar os patches antes que a tecnologia se prolifere.
Ceticismo e o contraponto de Altman
Nem todo mundo comprou o alarmismo. Sam Altman, CEO da OpenAI, afirmou em abril que os riscos do Mythos podem ser exagerados e acusou a Anthropic de usar “marketing baseado no medo” para justificar o controle sobre a tecnologia. O argumento de Altman é que qualquer empresa pode empacotar preocupações de segurança como estratégia para limitar concorrência e concentrar poder.
É uma crítica que merece atenção — mas que não invalida os dados. Vulnerabilidades encontradas são vulnerabilidades reais, independentemente de quem as descobriu ou por qual motivo divulgou.
O que isso significa para quem decide
Para líderes de tecnologia e segurança, este é um momento de revisão de postura — não de pânico, mas de urgência real:
Seus sistemas críticos estão sendo auditados com ferramentas de IA? Se não estão, alguém com intenção maliciosa pode estar fazendo isso por você.
A sua empresa tem um plano de resposta para o cenário em que vulnerabilidades previamente desconhecidas sejam exploradas em larga escala?
O prazo de 6 a 12 meses não é metáfora — é o intervalo até que modelos comparáveis ao Mythos estejam mais acessíveis.
Amodei terminou com uma nota de cautela otimista: “Este é um momento de perigo. Se respondermos corretamente, podemos ter um mundo melhor do outro lado. Há apenas um número finito de bugs a encontrar.”
O problema é que ninguém sabe exatamente quantos são — e o relógio já está correndo.