Por Ken Diamond, cofundador e CEO da Escale.
O setor financeiro tem investido cada vez mais em inteligência artificial, mas a confiança ainda é um obstáculo que limita a adoção da tecnologia.
Apesar dos recursos aplicados, muitas instituições avançam com cautela, especialmente em processos que exigem precisão, rastreabilidade e controle rigoroso.
Segundo a pesquisa Rise of Agentic AI: How trust is the key to human-AI collaboration, realizada pela Capgemini, apenas 2% das empresas já implementaram agentes de IA em escala.
Ao mesmo tempo, a confiança em sistemas totalmente autônomos caiu de 43% para 27% no último ano. O motivo é claro, respostas equivocadas ou “alucinações” da IA representam riscos reais, não apenas técnicos, mas também reputacionais e financeiros.
No setor bancário, um erro pode ter consequências graves e é exatamente esse temor que impede a expansão da tecnologia.
Dados de um levantamento da McKinsey reforçam a precaução em relação ao ceticismo dos benefícios financeiros da tecnologia. Como resultado, apenas algumas instituições estão à frente da curva, enquanto a maioria afirma que o progresso tem sido mais lento do que o esperado.
A pesquisa mostra que 36% dos executivos ouvidos afirmam preferir uma adoção gradual, baseada em projetos-piloto, casos de uso mais restritos e forte atenção à mitigação de riscos antes de qualquer escala maior.
Outros 27% se posicionam de forma equilibrada: reconhecem o potencial transformador da tecnologia, mas avançam com moderação, mantendo os riscos no radar ao longo do processo.
A confiança é o que define até onde a IA pode ser aplicada de forma segura. Para operar em ambientes críticos, é necessário combinar preparação técnica rigorosa com mecanismos de prevenção contínuos.
Antes de entrar em produção, os sistemas devem ser treinados para ancorar respostas em fontes confiáveis, seguidos de testes e simulações realistas que medem precisão e consistência.
Durante a operação, múltiplas camadas de proteção interceptam solicitações fora do escopo ou maliciosas e verificam cada saída, removendo dados sensíveis e detectando possíveis alucinações.
Já quando falamos sobre IA Generativa, de forma geral, a projeção é mais otimista. Um estudo da Juniper Research aponta que o investimento do setor bancário deve crescer mais de 1.400%, podendo chegar a 85 bilhões de dólares, globalmente, até 2030.
Garantir qualidade contínua também é fundamental. Sistemas de observabilidade em tempo real podem avaliar intenção, emoção e tom de cada interação, sinalizando pontos críticos.
Interações suspeitas podem ser analisadas por especialistas que corrigem lacunas na base de conhecimento e ajustam parâmetros operacionais.
Esse ciclo constante de prevenção, monitoramento e ajustes mantém a confiabilidade mesmo em setores altamente regulados, onde uma resposta errada representa risco direto ao negócio.
O uso da inteligência artificial no setor financeiro já não é mais um experimento. Quando aplicada com cuidado e com estruturas de proteção adequadas, é capaz de padronizar decisões, identificar anomalias e sustentar operações complexas sem colocar em risco a reputação ou os resultados de uma instituição.
Construir confiança é tão importante quanto a capacidade de processar dados em tempo real e é o que permitirá que a IA avance de forma segura e consistente.
