Por Carine Roos, CEO e fundadora da Newa.
As últimas eleições americanas trouxeram à tona uma questão complexa: a influência dos algoritmos de inteligência artificial no processo democrático. Redes sociais, alimentadas por esses algoritmos para maximizar o tempo de engajamento dos usuários, acabaram por amplificar conteúdos polarizadores, distorcendo o debate público. Essas dinâmicas contribuíram para um ambiente em que a desinformação floresce e a percepção dos eleitores é afetada por informações que nem sempre refletem a realidade.
Os algoritmos de engajamento baseados em IA foram projetados para manter o usuário envolvido, recomendando conteúdos que capturam sua atenção. Para isso, priorizam conteúdos carregados de emoção, controvérsia e sensacionalismo — atributos que geram interações intensas, mas que frequentemente promovem divisões. Esse modelo leva à criação de “câmaras de eco”, em que usuários são expostos repetidamente a informações que confirmam suas crenças, enquanto vozes divergentes são minimizadas. Em vez de nutrir o diálogo democrático, esses algoritmos acabam favorecendo visões polarizadas.
Durante as eleições americanas, campanhas de desinformação ilustraram o impacto desses algoritmos. Por exemplo, grupos estrangeiros, como aqueles envolvidos em campanhas russas, usaram plataformas como o Facebook para disseminar notícias falsas que dividiram o público. Um exemplo notório foi a divulgação de que Kamala Harris estaria envolvida em um atropelamento, uma história falsa amplificada pelos algoritmos e que influenciou a percepção dos eleitores.
Internamente, políticos e apoiadores também utilizaram IA para manipular a opinião pública. Donald Trump, por exemplo, compartilhou imagens geradas por IA de Taylor Swift, sugerindo falsamente que a cantora apoiava sua campanha. Esses conteúdos, amplamente divulgados, ilustram como os algoritmos, em sua busca pelo engajamento, acabam por promover informações não verificadas, aumentando a confusão entre os eleitores.
A IA como desafio democrático
Esses exemplos evidenciam um problema: os algoritmos de engajamento não foram projetados para validar a veracidade dos conteúdos, mas para maximizar a interação. Assim, redes sociais se tornam terrenos férteis para a desinformação, onde teorias da conspiração e notícias falsas prosperam. Em vez de enriquecer o debate, a IA acaba por amplificar mensagens polarizadoras, criando divisões profundas e enfraquecendo a esfera democrática.
As redes sociais, ao focarem no seu modelo de negócios que envolve o prolongamento da atenção dos usuários, possuem o potencial de colocar em risco a integridade do processo eleitoral e da própria democracia. Em um cenário onde a polarização e a desinformação são incentivadas por algoritmos, os eleitores encontram dificuldades em acessar uma visão equilibrada sobre candidatos e propostas.
A urgência de uma regulamentação robusta e transparente
A experiência das eleições americanas deixa claro que o impacto dos algoritmos de IA vai muito além do entretenimento ou do engajamento: eles moldam a forma como os eleitores percebem o mundo. Para proteger a integridade do processo eleitoral, é essencial que o uso de IA em plataformas digitais seja rigorosamente regulamentado.
Mais do que uma restrição à inovação, uma regulamentação sólida é uma garantia de que a ferramenta será utilizada para enriquecer a sociedade. Diretrizes bem estabelecidas podem transformar as redes sociais em espaços que promovam o diálogo, a diversidade de ideias e que permitam que eleitores formem opiniões com base em informações confiáveis e em um ambiente democrático e seguro.
Em resposta a esses desafios, o Comitê Gestor da Internet no Brasil (CGI.br) lançou uma consulta pública, em abril de 2023, para discutir diretrizes de regulação para plataformas digitais, focando na transparência, segurança e diversidade do conteúdo digital. Estruturada em três eixos — definição do escopo de regulação, mapeamento de riscos e arranjos institucionais — a consulta recebeu mais de 1.300 contribuições, refletindo o interesse de diversos setores, incluindo a comunidade científica, o terceiro setor, o setor empresarial e governo.
Entre as diretrizes levantadas pela consulta pública, destacam-se: Transparência dos algoritmos, incentivando que plataformas divulguem os critérios de priorização de conteúdo; Responsabilização das plataformas, impondo auditorias e relatórios periódicos para mitigar riscos de manipulação; Curadoria e diversidade de conteúdo, permitindo que os usuários controlem suas preferências informativas; Educação digital e parcerias para promover a segurança, especialmente para jovens usuários; e Governança e supervisão multissetorial, sugerindo a criação de entidade independente com autonomia administrativa para implementar e monitorar a regulação. Essas diretrizes reforçam que uma regulamentação sólida é essencial para equilibrar inovação e integridade democrática, transformando as redes sociais em espaços de diálogo e diversidade informativa.
É essencial avançar com regulamentações que tragam mais transparência e responsabilidade ao uso de algoritmos — especialmente com as eleições de 2026 se aproximando no Brasil. A experiência das eleições nos EUA e a consulta pública do CGI.br no território brasileiro evidenciam que, sem uma supervisão adequada, essas plataformas continuarão a priorizar modelos de engajamento que favorecem a polarização e a desinformação. As diretrizes propostas — como auditorias independentes, supervisão multissetorial e transparência nos critérios algorítmicos — oferecem passos concretos para um ambiente digital mais seguro e confiável. Essa abordagem busca um equilíbrio pragmático, onde a inovação digital seja compatível com a proteção da integridade democrática e o acesso a informações de qualidade.