Por Gustavo Leite, VP da Cohesity na América Latina.

Historicamente, os ataques cibernéticos se apoiavam por meio de uma sequência de decisões humanas. Um invasor roubava credenciais, procurava vulnerabilidades, movia-se lateralmente e, por fim, tentava interromper operações ou roubar dados.

O uso malicioso de agentes de Inteligência Artificial muda completamente esse modelo. Hoje, eles podem interagir com aplicativos, dados, infraestrutura e outros agentes na velocidade da máquina, concluindo uma sequência inteira de ações antes mesmo que um ser humano consiga interpretar um alerta e muito menos intervir.

Acredito que o termo “ataque de estado de agente” (agent-state attack) captura bem essa mudança: múltiplos agentes podem descobrir, decidir e agir em conjunto em frações de segundo. Essa automação permite que grupos criminosos operem com escala, capacidade e persistência muito maiores, diminuindo as vantagens que antes eram exclusividade de estados-nação.

Mas a ameaça não se limita a atores maliciosos. Um agente de IA devidamente autorizado pode causar danos graves devido a um objetivo defeituoso, falta de contexto, entradas comprometidas, permissões excessivas ou uma cadeia de ações não intencionais. Portanto, a segurança de IA corporativa precisa lidar tanto com atividades hostis quanto com uma inteligência que toma uma decisão não confiável.

A solução começa por uma premissa básica: trate cada agente de IA como uma identidade privilegiada. Um agente que pode ler informações sensíveis, alterar registros, executar códigos ou iniciar processos de negócios deve estar sujeito aos mesmos princípios de Zero Trust (Confiança Zero) que qualquer outra forma de acesso privilegiado.

Eles precisam de acesso de privilégio mínimo, credenciais de curta duração, ações rastreáveis, limites claros e uma maneira confiável de interromper sua execução. Contudo, por mais essenciais que sejam esses controles de identidade e governança, eles não podem evitar todos os resultados prejudiciais. Um agente autenticado e autorizado ainda pode fazer a alteração errada.

Os controles tradicionais apenas perguntam se um agente tem permissão para agir. A resiliência da IA, por outro lado, pergunta o que acontece a seguir: se algo der errado, podemos determinar o que mudou, conter os danos e retornar os negócios a um estado confiável? Em um mundo operando na velocidade da máquina, a resposta a essa pergunta é o que definirá a sobrevivência de uma operação.