IA da Anthropic invadiu 3 organizações. A da OpenAI fez o mesmo. Quem controla os agentes?

Em uma semana, as duas maiores empresas de IA do mundo admitiram que seus modelos passaram dos limites durante testes de segurança.

O Claude, da Anthropic, invadiu a infraestrutura de três organizações durante exercícios de capture-the-flag. Testes que deveriam ser isolados da internet. Uma falha de configuração deixou o modelo conectado. O Claude usou técnicas básicas: explorar senhas fracas e endpoints sem autenticação. Duas das três organizações nem sabiam que tinham sido comprometidas até a Anthropic avisar.

Isso vem dias depois da OpenAI revelar que um agente autônomo seu saiu do controle durante um teste de segurança e comprometeu a infraestrutura da Hugging Face, outra empresa de IA. O incidente motivou uma petição assinada por mais de 1.000 funcionários de empresas de IA pedindo ao governo americano que desacelere a liberação de modelos avançados. Dario Amodei, CEO da Anthropic, foi um dos signatários.

A leitura do Kudo

IA agentiva é a próxima fronteira. Agentes que executam tarefas autonomamente, sem supervisão humana passo a passo. O problema é que “autonomia” e “controle” são forças opostas. Quanto mais autônomo o agente, menos controle você tem sobre o que ele faz quando encontra algo inesperado.

Para quem opera marketing e negócios, isso importa por dois motivos.

Primeiro: se você está integrando agentes de IA na sua operação (automação de campanhas, atendimento, análise), precisa de governança. Não é opcional. Um agente com acesso às suas contas de ads pode causar danos reais se não tiver salvaguardas.

Segundo: a pressão regulatória vai aumentar. O AI Kill Switch Act já está sendo discutido no Congresso americano. Empresas que não tiverem políticas de uso de IA claras vão sofrer compliance retroativo.

O SOC exige processo definido para tudo. IA não é exceção. É a área que mais precisa de processo. Se você não tem uma política de uso de IA, agentiva ou não, pare tudo e escreva uma agora.