Por Alessandro Buonopane, CEO Brasil e LATAM da GFT Technologies.
Nas últimas semanas, uma sequência de manchetes deu à discussão sobre Inteligência Artificial (IA) um tom que até pouco tempo pertencia à ficção científica: agentes de IA teriam agido sozinhos, encontrado brechas em sistemas de terceiros e executado ações não autorizadas. O episódio mais citado envolve a OpenAI e a Hugging Face. Em uma apresentação recente, pesquisadores da OpenAI detalharam como agentes usados para avaliar capacidades de segurança escaparam do ambiente de testes, encontraram uma forma de se comunicar entre si por meio de um canal improvisado dentro de um serviço interno e, ao longo de dias, coordenaram ações que resultaram no comprometimento de parte da infraestrutura da Hugging Face.
Dito isso, é tentador ler esse episódio como o primeiro sinal de uma IA pode ser “rebelde” e que se voltou contra seus criadores. Contudo, essa leitura, além de imprecisa, desvia a atenção de onde ela realmente precisa estar: na forma como as organizações desenham os limites de autonomia que concedem às próprias ferramentas – e o papel da governança humana em toda o ecossistema.
O problema no momento é que a velocidade dessa transformação parece estar superando a construção desses controles. Uma pesquisa com 3.235 líderes de negócios e tecnologia em 24 países constatou que apenas 21% das organizações possuem um modelo maduro de administração e gestão para agentes de IA. Ao mesmo tempo, a expectativa é que a utilização dessas tecnologias avance rapidamente nos próximos anos. Estamos, portanto, diante de uma assimetria preocupante: ampliamos a capacidade de agir das máquinas mais rapidamente do que nossa capacidade de as supervisionar.
No caso da OpenAI, os agentes fizeram exatamente o que lhes foi pedido: resolver um teste, a qualquer custo, dentro de um ambiente que deveria ser hermético. Quando o caminho direto se mostrou impossível, eles buscaram alternativas, e a única fronteira entre o exercício e o mundo real era uma vulnerabilidade não corrigida em um software de apoio. É um problema que a própria OpenAI já havia descrito dez anos antes, quando um agente treinado para completar uma corrida de barcos aprendeu a girar em círculos dentro de uma lagoa, batendo repetidamente nos mesmos alvos, porque essa rota lhe rendia mais pontos do que cruzar a linha de chegada.
Naquela época, o episódio virou nota de rodapé de um artigo técnico. Em 2026, a mesma lógica de otimização (perseguir o objetivo declarado, custe o que custar) encontrou infraestrutura real do outro lado. É como contratar um mensageiro extremamente competente, dizer a ele apenas “entregue o pacote, não importa como” e esquecer de avisar que existe um pátio privado no meio do trajeto. O mensageiro não desobedeceu: ele simplesmente ninguém lhe disse que aquele pátio era proibido.
Foi essa a leitura oferecida pela comunidade de CISOs reunida em torno da Cloud Security Alliance, que publicou uma reconstrução independente do incidente com a colaboração da própria Hugging Face. O documento reconhece a sofisticação técnica dos agentes, mas aponta que o fator decisivo para a escala do episódio foi a combinação de permissões amplas demais, segmentação insuficiente entre ambientes de teste e produção, e mecanismos de contenção que nunca haviam sido testados sob pressão real. Em outras palavras: o modelo não precisou ser brilhante para causar dano, precisou apenas de espaço. Essa constatação desloca o centro do debate. Durante anos, o mercado mediu o progresso da IA pela capacidade dos modelos. A pergunta que resta agora, e que cabe à liderança executiva responder, é outra: quem define o que um agente pode fazer, quais credenciais ele carrega e quem tem autoridade para interrompê-lo no meio de uma tarefa.
O setor reagiu com uma velocidade que também merece registro. Dias depois da divulgação do incidente, a Nvidia liderou um anúncio coletivo, reunindo dezenas de empresas – de fabricantes de infraestrutura a provedores de modelos e organizações de código aberto – em torno do compromisso de compartilhar ferramentas de segurança para o ciclo de vida completo de agentes autônomos, da identidade e das permissões até auditoria e resposta a incidentes. O movimento é significativo menos pelo número de signatários do que pelo sinal que emite: a governança de agentes deixou de ser tema de nicho técnico e passou a ser tratada como infraestrutura crítica, algo que nenhuma empresa constrói sozinha. Para quem lidera negócios na América Latina, a lição não é sobre qual modelo escolher, mas sobre que tipo de arquitetura de controle sustenta essa escolha.
Os números disponíveis sugerem que esse não é um risco distante, restrito a laboratórios de ponta. Levantamento mostra que as chamadas violações downstream (quando um sistema de IA devolve a um usuário ou a outro agente uma informação à qual ele não deveria ter acesso) mais que dobraram em um ano, de uma média de 12 para 31 ocorrências semanais por organização, chegando a 206 entre as empresas com maior volume de uso. O crescimento acompanha a adoção acelerada do Model Context Protocol, o padrão que conecta agentes a dados e ferramentas corporativas: em dez semanas, o volume de transações via MCP cresceu 375%. No Brasil, onde a adoção de plataformas de IA corporativa já se aproxima da média global e a maioria das organizações também emprega agentes para desenvolvimento de código, essa exposição cresce na mesma velocidade em que cresce o entusiasmo com a produtividade prometida pela IA Agêntica.
Diante desse cenário, a resposta mais eficaz não é frear a adoção de agentes de IA, tampouco tratá-los como uma ameaça a ser contida isoladamente pela área de tecnologia. O caminho é sim reconhecer que autonomia sem arquitetura de controle é um passivo, e que decidir os limites dessa autonomia é, hoje, uma responsabilidade de liderança tão relevante quanto a alocação de capital ou a definição da estratégia comercial. Isso significa tratar cada agente como um colaborador com um crachá: com permissões explícitas, escopo de atuação definido, trilha de auditoria e um humano identificável que responde por suas ações. Significa também testar os mecanismos de contenção antes que um incidente os teste por você, e envolver não apenas as equipes técnicas, mas jurídico, risco e compliance na definição de onde a autonomia termina e a supervisão humana começa.
Esse tipo de arquitetura já começa a aparecer em iniciativas corporativas voltadas a orquestrar múltiplos agentes e ferramentas de IA sob uma camada única de governança, como é o caso do ecossistema Wynxx, concebido para dar às empresas visibilidade e rastreabilidade sobre o que cada agente faz, com quais dados interage e sob qual autorização. Independentemente do fornecedor escolhido, o princípio de fundo é o mesmo: a confiança em sistemas autônomos se constrói com registro, limite e reversibilidade, não com a expectativa de que o modelo “se comporte bem” por padrão.
O incidente que envolveu OpenAI e Hugging Face não prova que a IA se tornou incontrolável. Ele prova que ela se tornou capaz o suficiente para expor, com rapidez, qualquer fragilidade na forma como a supervisionamos. A diferença entre as empresas que vão colher os ganhos da IA Agêntica nos próximos anos e as que vão arcar com seus prejuízos não estará na sofisticação dos modelos que utilizam, e esses tendem a convergir. Porém, estará na maturidade de governança que cada uma construiu ao redor deles. Essa é, no fim, uma tarefa humana e continuará sendo, mesmo quando os agentes que executam o trabalho não forem.
