Nos últimos dias, uma notificação enviada a clientes do Nubank gerou um momento raro no mercado financeiro brasileiro: por algumas horas, milhares de pessoas acreditaram que uma das instituições mais relevantes do país havia entrado em liquidação.

A explicação veio rapidamente. Tratava-se de um erro operacional relacionado a um fluxo interno de comunicação. O incidente foi resolvido, os serviços continuam funcionando normalmente e o episódio se encerrou sem consequências sistêmicas.

Mas a reação do mercado chamou mais atenção do que o erro em si.

Como acontece com frequência em falhas tecnológicas, a conversa rapidamente se concentrou na busca por um responsável. Em algum lugar da cadeia de eventos, deveria existir uma pessoa culpada.

A questão é que estamos entrando em uma nova era da tecnologia, na qual essa lógica pode deixar de ser suficiente.

Durante décadas, produtos digitais foram construídos por equipes compostas por diferentes camadas de especialização. Desenvolvimento, qualidade, produto, segurança, operações e compliance atuavam como mecanismos complementares de validação. O processo era mais lento, mas também distribuía responsabilidades e reduzia riscos.

A inteligência artificial está mudando essa equação.

Hoje, desenvolvedores utilizam agentes capazes de escrever código, revisar alterações, sugerir correções, executar testes e até abrir pull requests automaticamente. Fundadores relatam ganhos de produtividade que permitem que pequenas equipes entreguem resultados que antes exigiriam dezenas de profissionais. O fenômeno é real e representa uma das maiores revoluções de eficiência da história recente do trabalho intelectual.

O problema é que produtividade e responsabilidade não necessariamente evoluem na mesma velocidade.

Existe ainda um fator adicional que torna essa discussão particularmente relevante para o ecossistema de startups.

Ao contrário de grandes corporações, startups operam sob uma pressão constante para crescer mais rápido, lançar funcionalidades antes dos concorrentes, captar recursos, atingir metas agressivas e fazer mais com menos. Nos últimos anos, a inteligência artificial passou a ser vista não apenas como uma ferramenta de inovação, mas também como um mecanismo de eficiência operacional e redução de custos.

Investidores celebram equipes mais enxutas. Fundadores comemoram os ganhos de produtividade. Empresas conseguem alcançar resultados que antes exigiam estruturas muito maiores.

Sob a ótica econômica, o movimento faz sentido.

Em um cenário de juros elevados, busca por rentabilidade e pressão por eficiência, a promessa de produzir mais com menos pessoas é extremamente atraente. Não por acaso, estamos vendo startups inteiras serem construídas com equipes cada vez menores e uma quantidade crescente de agentes de IA atuando em atividades que antes dependiam exclusivamente de seres humanos.

Mas a mesma tecnologia que reduz custos também pode reduzir algumas das camadas de proteção que tradicionalmente existiam dentro das organizações.

Quando uma startup substitui parte dos processos de validação por automações, agentes ou fluxos autônomos, ela ganha velocidade. Porém, também aumenta a importância dos mecanismos de governança, supervisão e controle.

O desafio é que muitas empresas estão adotando inteligência artificial em ritmo mais acelerado do que estão desenvolvendo processos para gerenciá-la.

Se um episódio semelhante ao do Nubank já gera repercussão nacional em uma companhia com estruturas robustas de tecnologia, compliance e gestão de riscos, vale refletir sobre o que pode acontecer em organizações menores, com equipes reduzidas e menos camadas de supervisão.

Quando uma única pessoa passa a operar com o equivalente digital de uma equipe inteira, a escala de impacto aumenta exponencialmente. Uma decisão equivocada, um parâmetro mal configurado ou uma validação insuficiente podem produzir consequências muito maiores do que no passado.

Essa transformação nos leva a uma pergunta desconfortável: quem responde quando sistemas compostos por múltiplos agentes autônomos cometem um erro?

A resposta parece simples à primeira vista. Sempre haverá um ser humano responsável. Mas a realidade organizacional tende a ser mais complexa. Em ambientes altamente automatizados, decisões são distribuídas entre quem desenvolveu a ferramenta, quem definiu os parâmetros, quem aprovou sua adoção, quem supervisiona os processos e quem estabeleceu os incentivos de negócio.

A responsabilidade deixa de ser apenas individual e passa a ser também sistêmica.

Historicamente, o avanço tecnológico foi acompanhado pela criação de novos mecanismos de governança. O setor financeiro desenvolveu estruturas regulatórias. A aviação criou protocolos rigorosos de segurança. A indústria farmacêutica estabeleceu camadas extensivas de validação e rastreabilidade.

A inteligência artificial provavelmente seguirá trajetória semelhante.

A próxima grande discussão sobre IA talvez não seja sobre capacidade computacional, qualidade dos modelos ou velocidade de execução. Esses avanços já estão acontecendo. A questão central passa a ser como organizações irão construir estruturas de governança compatíveis com sistemas que operam em velocidades e escalas sem precedentes.

O caso do Nubank é apenas um lembrete de que estamos acelerando nossa capacidade de executar. A pergunta que permanece em aberto é se estamos evoluindo com a mesma rapidez nossa capacidade de supervisionar, responsabilizar e controlar riscos.

Porque, em um mundo onde uma pessoa pode produzir como dez, talvez já tenha chegado o momento de discutir não apenas quem responde pelos erros dos dez, mas quais mecanismos precisamos construir para evitar que esses erros aconteçam em escala.