17 de junho de 2024 - 6h00
Sabe aquela recorrente discussão sobre se as máquinas com AI irão ou não controlar os humanos? Relaxa. Em dois anos, deu.
Num mundo completamente em rede e interdependente da internet, cuja esmagadora maioria dos conteúdos será gerada por máquinas, pronto. Viremos a página e vamos para o capítulo … “e agora, fazemos o quê?”.
Em minha mui modesta opinião, essa informação aí do título contém uma das mais acachapantes transformações da nossa vida, mas embora venha sendo comentada já há dois anos por várias fontes, o mundo não parou para discuti-la, como eu acho que deveria.
A fonte que me impressionou mais foi a Europol, polícia internacional da União Europeia, que fez, certamente, o mais profundo estudo sobre o tema e seus impactos até agora.
O estudo se foca no deepfake, que, se você não sabe o que é ainda, pelamordedeus, dá um Google agora, porque você precisa saber e eu não vou te ajudar aqui explicando. Não saber isso hoje é um crime. Uma sabotagem. Contra você mesmo.
A Europol cita, por sua vez, estudo da University College London (UCL), que qualifica deepfake como o maior risco para as sociedades hoje.
Veja trecho: “Hoje, agentes mal-intencionados estão usando campanhas de desinformação e conteúdos deepfake para desinformar o público sobre fatos, influenciar políticas e eleições, contribuir para fraudes e manipular acionistas em um contexto corporativo. Muitas organizações começaram a ver os deepfakes como um risco ainda maior do que o roubo de identidade (para o qual os deepfakes também podem ser usados), especialmente agora que a maioria das interações se moveu online desde a pandemia de Covid-19. Essa preocupação é ecoada por um relatório recente da University College London (UCL), que classifica a tecnologia deepfake como uma das maiores ameaças enfrentadas pela sociedade hoje.”
O conteúdo de AI tomou conta da internet e é praticamente impossível para nós humanos hoje, sem ajuda de … rã … hum … cof, cof … máquinas, reconhecer algo gerado por um algoritmo. Aqueles que conhecem essa tecnologia são poucos e privilegiados. A vasta maioria das pessoas não saberia como procurar um artigo ou imagem falsificada, reconhecer sinais reveladores do fake, ou mesmo copiar a solução de um detector de IA (já existem vários) para confirmar sua origem. As consequências a longo prazo são que praticamente nada na internet será criado ou curado por humanos, nem mesmo lido e digerido por pessoas. De novo: máquinas vão ler por nós. Vamos adotar assistentes pessoais de IA para consumir o conteúdo que outras máquinas geraram, utilizando resumos em outros contextos, seja pessoalmente ou em negócios.
Você já está fazendo isso com os resumos de reuniões online, certo? Então, já começou.
Vamos agora a um disclaimer importante meu aqui.
Sou sócio investidor de várias startups que usam AI. Na verdade, poucas empresas hoje NÃO usam AI. Se é que há alguma.
Não seria então um contrassenso investir em AI, num mundo em que AI parece ser o maior mal da humanidade de todos os tempos?
Não. Aliás, muito pelo contrário.
A AI segue sendo também, concomitantemente, a maior maravilha da humanidade de todos os tempos. É tudo uma questão de quem usa e para o que usa.
Sem AI, nenhum negócio sobreviverá. E precisamos que os negócios sobrevivam.
Esse lado da AI deveria prevalecer, mas é aí que tudo se complica.
AI vai, nos mesmos dois anos ali do título: nos colocar no caminho do controle definitivo do câncer, Alzheimer e doenças cardíacas; maior controle ambiental; otimização exponencial na eficácia das empresas, da educação e das ciências em geral. A lista é enorme. E exponencial.
No tema conteúdo que trago aqui, AI gera: maior acessibilidade e eficiência; maior capacidade de personalização (isso mesmo, por contraditório que possa parecer); maior produtividade; maior assertividade. De novo, a lista de coisas legais é enorme.
Mas voltemos ao lado do demo. Sim, o bicho ruim.
O controle das máquinas da maioria dos conteúdos da internet gerará (ou tem potencial para gerar):
- Homogeneização e despersonalização dos conteúdos;
- Diminuição do espaço para o diálogo digital aberto na web;
- Erosão da confiança sobre a origem e confiabilidade de todo conteúdo online;
- Perda total ou parcial da diversidade genuína de visões e opiniões;
- Perda ou comprometimento da riqueza original da criatividade humana;
- Abalo da liberdade de expressão e do jornalismo;
- Risco de comprometimento das democracias como sistemas políticos.
Tecnicamente, a uniformidade resultante pode suprimir a originalidade e a autenticidade, elementos cruciais para a riqueza cultural e intelectual da internet. E de todos nós.
Para mitigar esse risco e esse iminente problema ameaçador enorme, as saídas são muito claras e totalmente conhecidas:
- Regulamentação internacional;
- Transparência nos algoritmos;
- Controle criptografado das informações pessoais de todos nós;
- Educação e treinamento não de AI, mas de como melhor utilizá-la (ninguém precisa saber AI para usá-la);
- Alocação de recursos para tecnologias que combatam a “fakisse” geral;
- Fóruns globais de debate aberto e permanente.
Todos sabem o que é preciso fazer. Mobilizar os recursos e o poder necessário para atingir essas metas é que é o maior desafio de todos.
O resumo de tudo isso é claro. Antagônica e contraditoriamente, a previsão de que 90% do conteúdo online será gerado por IA até 2026 sugere uma transformação significativa na forma como consumimos e interagimos com a informação. Enquanto essa evolução promete eficiência e personalização, também exige vigilância contra os riscos associados à desinformação e à perda de autenticidade no conteúdo digital.
Mas a meta segue sendo clara e uma só: garantir que a internet continue a ser um espaço livre, vibrante e democrático para todos.