A Inteligência Artificial surgiu com o propósito de beneficiar a sociedade, e como toda nova tecnologia, traz consigo tanto aspectos positivos quanto negativos.
Diante dessa realidade, outra discussão foi iniciada: sobre os impactos que a falta de fiscalização da ferramenta pode acarretar, uma vez que a mesma lida com dados pessoais e suas aplicações são desconhecidas.
O Web Summit Rio 2024, maior conferência de tecnologia e inovação da Europa, que chega mais uma vez ao Rio de Janeiro (RJ), entre 15 e 18 de abril, vai trazer luz ao debate.
No segundo dia do evento (16), no painel “Como a geopolítica moldará a regulamentação da IA”, Carine Roos, mestre em Gênero pela London School of Economics and Political Science (LSE), fundadora e CEO da Newa, é uma das convidadas confirmadas para falar a respeito do tema.
De acordo com a especialista, a supervisão da IA é fundamental para evitar a colonização digital e a exploração de dados, além da temática impactar diretamente nos direitos humanos.
“Embora as tecnologias possam fortalecer os princípios universais de dignidade e as democracias, do mesmo modo conseguem enfraquecê-los, gerando polarização e divisão. Nas redes sociais, observamos tanto o aumento da desinformação, quanto às denúncias de brutalidade policial contra a população negra. Ou seja, podemos fazer um bom e eficaz uso do artifício. Mas antes é necessário formar um ecossistema responsável, estabelecendo regras transparentes acerca da implementação e aplicação”.
Neste contexto, os governos devem desempenhar um papel primordial no uso consciente da Inteligência Artificial, assegurando uma utilização justa e segura. Em território nacional, avanços nesse sentido já estão ocorrendo.
Recentemente, o Tribunal Superior Eleitoral (TSE) determinou que partidos e candidatos nas eleições de 2024 poderão usar IA nas propagandas partidárias, mas serão devidamente rotuladas a fim de informar os eleitores, e sem o uso de deep fake, que permite a alteração de imagem e voz na internet. Essa decisão é inédita, tornando o Brasil o primeiro país a implementar tal medida.
A ONU recentemente aprovou a primeira resolução global apoiando esforços internacionais focados em programas como a detecção de doenças, previsão de enchentes, suporte aos agricultores, capacitação da próxima geração de trabalhadores, e claro, com garantia a segurança e respeito às liberdades fundamentais.
Além do estado, Carine defende que as empresas também precisam se educar criticamente em direitos humanos, já que exercem grande influência na promoção das garantias individuais.
“É extremamente importante que o cuidado seja integrado na etapa de cocriação da tecnologia para desenvolver confiança, estabelecer um vocabulário comum e integrar o conhecimento da comunidade e a experiência no processo de desenvolvimento da Inteligência Artificial. Para alcançar isso, devemos começar questionando o status quo. Quem está no centro das decisões sobre IA? Os direitos irrevogáveis estão sendo considerados no avanço tecnológico? Além disso, é crucial que os empregadores avaliem minuciosamente o impacto da tecnologia e promovam uma legislação mais rigorosa contra a discriminação racial”.
Para abrir esse diálogo, a Newa acaba de anunciar o lançamento de uma comunidade por assinatura destinada a criar um espaço de discussão crítica e promover boas práticas para tornar as organizações saudáveis, justas e psicologicamente seguras em todos os sentidos.
“Queremos reunir lideranças para discutir diversas questões que estão sendo levantadas na atualidade, como a IA, diversidade e inclusão e o impacto dessas abordagens na sociedade como um todo”, finaliza.
