Por Felipe Negri, CEO do Pinbank.

O principal medo sobre IA costuma ser a resposta errada.  No mercado financeiro, esse risco existe. Mas talvez não seja o mais perigoso.

Uma IA não precisa mentir para afetar uma decisão econômica. Pode ordenar opções, destacar um ativo, omitir outro, sugerir uma corretora, tratar uma tese com entusiasmo e outra com cautela. Em uma interação isolada, parece uma recomendação. Em milhões de interações, pode virar fluxo. E o fluxo vira preço.

Quando a IA passa a ser camada de decisão, ela não apenas informa. Seleciona, compara, recomenda e executa. A pergunta incômoda é: quando uma IA recomenda um ativo financeiro, quem está falando? O modelo? A política da plataforma? Um acordo comercial? Uma fonte priorizada? Um conteúdo externo manipulado?

O problema cresce com os agentes de IA. Um chatbot responde. Um agente pesquisa, acessa sistemas, interpreta documentos e aciona ferramentas. Nesse ambiente, o prompt deixa de ser apenas comando. Vira uma interface de poder.

É aqui que entra o prompt injection. A OWASP classifica essa vulnerabilidade como um dos principais riscos em aplicações com LLMs. No caso indireto, instruções maliciosas podem estar em sites, arquivos ou mensagens consumidas pela IA e alterar seu comportamento sem que o usuário perceba. A OWASP também cita riscos como acesso não autorizado a funções, execução de comandos em sistemas conectados e manipulação de decisões críticas. 

Para o mercado financeiro, isso não é detalhe técnico. Imagine uma IA usada para resumir relatórios, acompanhar fatos relevantes ou apoiar investidores. Se o sistema consome fontes manipuladas, a resposta final pode ser influenciada por uma instrução invisível. A indução pode surgir como ênfase, omissão ou ranqueamento enviesado. 

Um caso recente no mercado cripto mostra como esse risco deixa de ser teórico. Um hacker conseguiu induzir o agente autônomo Bankr, em uma interação envolvendo o Grok, a enviar 3 bilhões de tokens DRB, então avaliados em US$ 213 mil, cerca de R$ 1 milhão. A instrução teria sido ofuscada em código Morse, fazendo o sistema interpretar a mensagem como uma ordem de transferência, e não apenas como texto a ser decodificado.

O ponto mais importante não é o código Morse. É a lógica por trás dele. Se um comando escondido consegue atravessar a camada de proteção e acionar uma transferência, o problema está na fragilidade de sistemas que misturam linguagem, interpretação e execução financeira.

A disputa entre o governo Trump e a Anthropic mostra outro lado. O impasse envolveu a recusa da empresa em flexibilizar salvaguardas para uso militar irrestrito de seus modelos. O ponto não era apenas acesso à tecnologia, mas a tentativa de contornar limites criados para impedir usos sensíveis, como armas autônomas e vigilância doméstica em massa.

No mercado financeiro, a lógica é ainda mais delicada. Uma IA não precisa dizer “compre esta ação”. Basta, em milhões de interações, tratar ativos como mais promissores, produtos como mais adequados ou plataformas como mais confiáveis. A influência pode ser distribuída, gradual e difícil de rastrear.

Guardrails severos não são excesso de cautela. São a fronteira entre informação, recomendação, venda, indução e manipulação. Não se trata de travar inovação. Sistemas de IA aplicados a finanças precisam ter limites claros sobre o que podem sugerir, como podem ranquear produtos, quais fontes podem usar, quando devem acionar supervisão humana, quais respostas devem bloquear e como cada interação será auditada depois.

A próxima grande discussão sobre IA financeira talvez não seja se ela acerta ou erra uma previsão. Será se está criando um novo canal de indução econômica sem transparência suficiente.

Porque o erro grosseiro aparece. O risco mais perigoso é a IA parecer razoável, técnica e neutra enquanto empurra, pouco a pouco, decisões econômicas em uma direção que ninguém está auditando.