Por André Racz, CIO da CERC.

A inteligência artificial era tratada nas empresas como uma ferramenta de apoio. Ela ajudava a encontrar informações, resumir documentos, elaborar textos e sugerir caminhos. A decisão final e a tomada de ação, na maioria das vezes, continuava nas mãos de uma pessoa. Com a evolução dos agentes de inteligência artificial, essa relação começa a mudar. Em vez de apenas responder a comandos, esses sistemas podem receber objetivos, executar etapas de um processo, consultar diferentes fontes de informação e realizar tarefas com cada vez menos intervenção humana.

A mudança abre oportunidades importantes de produtividade. Mas também exige uma nova reflexão: estamos preparados para delegar? A pergunta não é apenas se a tecnologia consegue executar uma tarefa. É se sabemos definir o que ela pode fazer, quais informações pode acessar, em que situações deve interromper sua atuação e quando precisa pedir ajuda a uma pessoa. Em outras palavras, o desafio não é somente desenvolver agentes inteligentes. É construir as condições para que eles atuem de maneira confiável.

Autonomia não significa ausência de limites

Quando uma empresa delega uma atividade a um profissional, não espera que ele tenha liberdade irrestrita para tomar qualquer decisão. Existem responsabilidades, alçadas de aprovação, políticas internas e procedimentos para situações excepcionais.

Com agentes de IA, o princípio deve ser semelhante. A diferença é que a velocidade e a escala de execução podem ser muito maiores e consequentemente o potencial de dano. Um sistema pode realizar diversas ações em sequência antes que alguém perceba que algo saiu do esperado.

Por isso, conceder autonomia precisa ser uma decisão consciente e proporcional ao risco envolvido. Um agente encarregado de organizar informações, por exemplo, pode operar com mais liberdade do que outro capaz de alterar registros importantes, compartilhar dados sensíveis ou autorizar uma operação financeira. Isso não significa limitar a inovação por excesso de cautela. Significa reconhecer que diferentes atividades exigem diferentes níveis de confiança e controle. A boa governança não é um obstáculo à autonomia. É o que permite ampliá-la com responsabilidade.

Segurança precisa fazer parte do projeto, não entrar no final

Um erro comum em processos de transformação digital é tratar a segurança como uma etapa posterior: primeiro a solução é desenvolvida, depois os riscos são avaliados e, por fim, os controles são adicionados. No contexto dos agentes de IA, essa lógica pode ser especialmente problemática. Afinal, esses sistemas podem depender de acesso a documentos, bancos de dados, aplicações e ferramentas que fazem parte da operação cotidiana de uma empresa.

É necessário definir desde o início quais dados podem ser utilizados, quais ações estão autorizadas, como as atividades serão registradas e quais mecanismos permitirão interromper uma execução inadequada. Também é importante testar os sistemas em situações que fujam do cenário ideal. Como eles reagem diante de informações contraditórias? O que acontece quando recebem instruções maliciosas ou tentam executar algo fora de seu escopo? Como uma decisão pode ser revisada?

Essas perguntas precisam fazer parte do desenvolvimento e da operação, e não apenas de uma avaliação formal de segurança no fim do processo. Outro erro é confiar cegamente em técnicas de prompt engineering, definindo os limites e permissões de atuação de um agente como um conjunto de instruções ao seu modelo. Para ações realmente sensíveis é necessário a aplicação de controles determinísticos aplicados nas ferramentas, bloqueios de acesso e não apenas deixar esse controle na decisão do modelo.

O papel das pessoas também precisa evoluir

A expansão dos agentes de IA não elimina a responsabilidade humana. Na verdade, torna essa responsabilidade ainda mais importante, embora de outra natureza. Se antes o trabalho estava concentrado em executar cada etapa de uma atividade, parte desse esforço poderá ser direcionada para definir objetivos, estabelecer critérios, acompanhar resultados e lidar com exceções.

Isso exige mudanças na forma como as equipes trabalham e como as lideranças organizam os processos. Não basta disponibilizar uma nova ferramenta e esperar que os resultados apareçam. É preciso rever fluxos de trabalho, preparar as pessoas e estabelecer responsabilidades claras.

Outro ponto fundamental é evitar que a supervisão se transforme em mera formalidade. Aprovar tudo automaticamente, sem compreender o que está sendo validado, não representa controle efetivo. A supervisão precisa ser proporcional ao impacto das decisões e oferecer condições reais para intervir quando necessário.

Confiança se constrói com evidências

A confiança em um agente de IA não deve depender apenas da qualidade de suas respostas ou de demonstrações bem-sucedidas. Ela precisa ser construída com evidências de que o sistema opera dentro dos limites estabelecidos, de que seus resultados podem ser avaliados e de que existe uma forma de responder quando algo dá errado. Como nas relações humanas, a confiança deve se construída aos poucos, observando-se o comportamento dos agentes antes de ampliar sua autonomia.

Isso envolve acompanhar o desempenho ao longo do tempo, registrar ações relevantes, revisar permissões e estabelecer mecanismos de correção. Também significa reconhecer que a autonomia concedida hoje pode precisar ser revista amanhã, conforme o contexto e os riscos mudem. A partir dessa perspectiva, segurança deixa de ser apenas uma defesa contra incidentes. Ela passa a integrar a própria estratégia de adoção da inteligência artificial. Empresas que conseguem combinar autonomia, supervisão e responsabilidade têm melhores condições de transformar experimentos em resultados consistentes.

A próxima etapa da inteligência artificial não será definida apenas por quem possui os modelos mais avançados ou consegue automatizar mais tarefas. Será definida, também, por quem souber delegar melhor. Porque, no fim, a questão não é escolher entre confiar na IA ou manter o controle humano. É construir um modelo em que a tecnologia tenha espaço para agir, as pessoas saibam quando intervir e a organização consiga responder pelas decisões tomadas em seu nome.