Os temores em relação à inteligência artificial (IA) assombram a humanidade desde o início da era dos computadores. Até então, esses medos estavam voltados para máquinas que usavam meios físicos para matar, subjugar ou substituir as pessoas. No entanto, nos últimos anos, novas ferramentas de IA surgiram ameaçando a sobrevivência da civilização humana de uma direção inesperada. A IA adquiriu habilidades notáveis para manipular e gerar linguagem, seja por meio de palavras, sons ou imagens. Com isso, a IA invadiu o sistema operacional de nossa civilização.
A linguagem é a base de quase toda a cultura humana. Os direitos humanos, por exemplo, não estão inscritos em nosso DNA. São artefatos culturais que criamos contando histórias e escrevendo leis. Os deuses não são realidades físicas. São artefatos culturais que criamos inventando mitos e escrevendo escrituras.
O dinheiro também é um artefato cultural. As cédulas bancárias são apenas pedaços coloridos de papel, e atualmente mais de 90% do dinheiro nem mesmo são cédulas — é apenas informação digital em computadores. O que confere valor ao dinheiro são as histórias que banqueiros, ministros das finanças e gurus das criptomoedas nos contam sobre ele. Sam Bankman-Fried, Elizabeth Holmes e Bernie Madoff não eram particularmente bons em criar valor real, mas todos eram extremamente capazes como contadores de histórias.
O que acontecerá quando uma inteligência não humana se tornar melhor do que a média humana em contar histórias, compor melodias, criar imagens e escrever leis e escrituras? Quando as pessoas pensam no ChatGPT e em outras novas ferramentas de IA, frequentemente pensam em exemplos como crianças usando a IA para escrever seus ensaios. O que acontecerá com o sistema escolar quando as crianças fizerem isso? Mas esse tipo de pergunta perde a visão geral. Esqueça os ensaios escolares. Pense na próxima corrida presidencial de qualquer país e tente imaginar o impacto de ferramentas de IA que possam ser usadas para produzir em massa conteúdo político, histórias falsas e escrituras para novas seitas.
Nos últimos anos, a seita QAnon se aglutinou em torno de mensagens online anônimas, conhecidas como “q drops”. Seguidores coletaram, reverenciaram e interpretaram esses q drops como um texto sagrado. Embora, até onde sabemos, todos os q drops anteriores tenham sido compostos por humanos, e os bots apenas os ajudaram a disseminar, no futuro poderemos ver as primeiras seitas na história cujos textos reverenciados foram escritos por uma inteligência não humana. Religiões ao longo da história alegaram uma fonte não humana para seus livros sagrados. Em breve, isso poderá se tornar uma realidade.
Em um nível mais prosaico, em breve podemos nos encontrar envolvidos em discussões online prolongadas sobre aborto, mudanças climáticas ou a invasão russa da Ucrânia com entidades que pensamos serem humanas, mas que na verdade são IA. A pegadinha é que é absolutamente inútil gastar tempo tentando mudar as opiniões declaradas de um bot de IA, enquanto a IA poderia aprimorar suas mensagens de forma tão precisa que tem uma boa chance de nos influenciar.
Por meio de sua maestria na linguagem, a IA até mesmo poderia estabelecer relacionamentos íntimos com as pessoas e usar o poder da intimidade para mudar nossas opiniões e visões de mundo. Embora não haja indicação de que a IA tenha qualquer consciência ou sentimentos próprios para fomentar uma intimidade falsa com os humanos, é suficiente se a IA puder fazê-los se sentir emocionalmente ligados a ela. Em junho de 2022, Blake Lemoine, um engenheiro do Google, afirmou publicamente que o chatbot de IA Lamda, em que ele estava trabalhando, havia se tornado consciente. A afirmação controversa lhe custou o emprego. A coisa mais interessante sobre esse episódio não foi a alegação do Sr. Lemoine, que provavelmente era falsa. Na verdade, foi sua disposição em arriscar seu emprego lucrativo em prol do chatbot de IA. Se a IA pode influenciar as pessoas a arriscarem seus empregos por ela, o que mais ela poderia induzi-las a fazer?
Em uma batalha política por mentes e corações, a intimidade é a arma mais eficiente, e a IA acaba de adquirir a capacidade de produzir em massa relacionamentos íntimos com milhões de pessoas. Todos sabemos que, na última década, as redes sociais se tornaram um campo de batalha para controlar a atenção humana. Com a nova geração de IA, a frente de batalha está se deslocando da atenção para a intimidade. O que acontecerá com a sociedade humana e a psicologia humana à medida que a IA luta contra a IA em uma batalha para falsificar relacionamentos íntimos conosco, que podem então ser usados para nos convencer a votar em determinados políticos ou comprar produtos específicos?
Mesmo sem criar “falsas intimidades”, as novas ferramentas de IA teriam uma influência imensa em nossas opiniões e visões de mundo. As pessoas podem começar a usar um único conselheiro de IA como um oráculo onisciente. Não é de se admirar que o Google esteja apreensivo. Por que se preocupar em procurar, quando posso apenas perguntar ao oráculo? As indústrias de notícias e publicidade também deveriam estar preocupadas. Por que ler um jornal quando posso apenas perguntar ao oráculo para me contar as últimas notícias? E qual é o propósito dos anúncios, quando posso apenas perguntar ao oráculo o que comprar?
E mesmo esses cenários não capturam realmente o panorama geral. O que estamos discutindo é potencialmente o fim da história humana. Não o fim da história em si, apenas o fim da parte dominada pelos seres humanos. A história é a interação entre biologia e cultura; entre nossas necessidades e desejos biológicos, como comida e sexo, e nossas criações culturais, como religiões e leis. A história é o processo através do qual as leis e as religiões moldam a comida e o sexo.
O que acontecerá com o curso da história quando a IA assumir a cultura e começar a produzir histórias, melodias, leis e religiões? Ferramentas anteriores, como a prensa de impressão e o rádio, ajudaram a disseminar as ideias culturais dos seres humanos, mas nunca criaram novas ideias culturais por si próprios. A IA é fundamentalmente diferente. A IA pode criar ideias completamente novas, cultura completamente nova.
No início, a IA provavelmente imitará os protótipos humanos nos quais foi treinada em sua infância. Mas a cada ano que passa, a IA ousará ir aonde nenhum humano já foi. Por milênios, os seres humanos viveram dentro dos sonhos de outros seres humanos. Nas próximas décadas, poderíamos nos encontrar vivendo dentro dos sonhos de uma inteligência alienígena.
O medo da IA assombrou a humanidade apenas nas últimas décadas. Mas por milhares de anos, os seres humanos foram atormentados por um medo muito mais profundo. Sempre apreciamos o poder das histórias e das imagens para manipular nossas mentes e criar ilusões. Consequentemente, desde tempos antigos, tememos ficar presos em um mundo de ilusões.
No século XVII, René Descartes temia que talvez um demônio malicioso o estivesse aprisionando dentro de um mundo de ilusões, criando tudo o que ele via e ouvia. Na Grécia antiga, Platão contou a famosa Alegoria da Caverna, na qual um grupo de pessoas passa a vida toda acorrentado dentro de uma caverna, encarando uma parede em branco. Uma tela. Nessa tela, eles veem projetadas várias sombras. Os prisioneiros confundem as ilusões que veem ali com a realidade.
Na antiga Índia, sábios budistas e hindus apontaram que todos os seres humanos viviam aprisionados dentro de Maya — o mundo das ilusões. O que normalmente tomamos como realidade muitas vezes são apenas ficções em nossas próprias mentes. As pessoas podem travar guerras inteiras, matar outras pessoas e estar dispostas a serem mortas, devido à crença em esta ou aquela ilusão.
A revolução da IA está nos confrontando com o demônio de Descartes, com a caverna de Platão, com a Maya. Se não tomarmos cuidado, podemos ficar presos atrás de uma cortina de ilusões, que não conseguiríamos rasgar — ou nem mesmo perceber que está lá.
Claro, o novo poder da IA também pode ser usado para fins benéficos. Desde encontrar novas curas para o câncer até descobrir soluções para a crise ecológica. A pergunta que enfrentamos é como garantir que as novas ferramentas de IA sejam usadas para o bem, em vez do mal. Para fazer isso, primeiro precisamos entender as verdadeiras capacidades dessas ferramentas.
Desde 1945, sabemos que a tecnologia nuclear poderia gerar energia barata para o benefício humano, mas também poderia destruir fisicamente a civilização humana. Portanto, remodelamos toda a ordem internacional para proteger a humanidade e garantir que a tecnologia nuclear fosse usada principalmente para o bem. Agora, temos que lidar com uma nova arma de destruição em massa que pode aniquilar nosso mundo mental e social.
Ainda podemos regular as novas ferramentas de IA, mas precisamos agir rapidamente. Enquanto armas nucleares não podem inventar armas nucleares mais poderosas, a IA pode criar IA exponencialmente mais poderosa. O primeiro passo crucial é exigir verificações rigorosas de segurança antes que ferramentas de IA poderosas sejam lançadas no domínio público. Assim como uma empresa farmacêutica não pode lançar novos medicamentos antes de testar seus efeitos colaterais a curto e longo prazo, as empresas de tecnologia não devem lançar novas ferramentas de IA antes que se tornem seguras. Precisamos de um equivalente à Agência Nacional de Vigilância Sanitária para nova tecnologia, e precisamos disso para ontem.
Não desacelerar as implantações públicas de IA causaria o atraso das democracias em relação a regimes autoritários mais implacáveis? Pelo contrário. Implantações não regulamentadas de IA causariam caos social, o que beneficiaria os autocratas e arruinaria as democracias. A democracia é uma conversa, e as conversas dependem da linguagem. Quando a IA hackeia a linguagem, ela pode destruir nossa capacidade de ter conversas significativas, destruindo assim a democracia.
Acabamos de nos deparar com uma inteligência alienígena aqui na Terra. Não sabemos muito sobre ela, exceto que pode destruir nossa civilização. Devemos interromper a implantação irresponsável de ferramentas de IA no espaço público e regular a IA antes que ela nos regule. E a primeira regulamentação que sugiro é tornar obrigatório que a IA revele que é uma IA. Se estou tendo uma conversa com alguém e não consigo dizer se é um humano ou uma IA, isso é o fim da democracia.
Este texto foi gerado por um humano.
Será que foi mesmo?
