Crianças e inteligência artificial

22 de dezembro de 2023 - 6h00

O acesso à tecnologia e ao uso da Inteligência Artificial por crianças e adolescentes é um caminho sem volta. Assim como a Internet mudou completamente a forma como acessamos as informações e a maneira como nos comunicamos e realizamos milhares de processos e atividades, o avanço tecnológico é capaz de trazer benefícios inimagináveis à atual geração e às futuras – nas quais nossos filhos estão inseridos.

Mas como garantir que a Inteligência Artificial, especialmente, não seja um risco para nossas crianças e adolescentes?

Como advogada atuante no setor de Tecnologia, posso afirmar que o Brasil possui um conjunto de leis e regulações bastante robusto que ampara grande parte das questões ligadas ao ambiente digital. Para incidentes de segurança que envolvam dados pessoais, temos a Lei Geral de Proteção de Dados, para as questões relativas às relações de consumo temos o Código de Defesa do Consumidor, que cumprem bem seus papeis. Em defesa às crianças e adolescentes, o nosso Estatuto da Criança e do Adolescente traz as principais diretrizes que precisamos cumprir para os preservar. Com relação aos limites éticos na publicidade, aplica-se a regulação do Conar, órgão que já fiscaliza as questões da propaganda no Brasil.

Então, se já existe uma base regulatória consistente que pode ser aplicada inclusive para casos de uso da Inteligência Artificial e de outras tecnologias por essas leis, por que os crimes virtuais, como abusos contra crianças e uso indevido de imagens com a IA continuam sendo um grande desafio para pais, educadores e a sociedade ? E como fazer para coibir situações abusivas e criminosas?

O uso da IA, especialmente a IA generativa, ainda é bastante novo e, no entanto, está ao alcance de qualquer pessoa, inclusive de crianças e adolescentes. E, assim como temos excelentes exemplos de como as novas tecnologias estão sendo utilizadas para auxiliar no diagnóstico de doenças, detecção de fraudes no ambiente virtual, melhora no ensino à distância, dentre outras situações, também temos o uso criminoso da mesma tecnologia – o que me leva ao assunto principal deste artigo, que é o papel da escola, dos pais e da sociedade nesse contexto.
Bombardeados por informações a cada segundo, nossos filhos têm a tecnologia como parte de suas rotinas. Do acesso aos aplicativos de games e streaming à aula de robótica, o tempo todo eles lidam naturalmente com o que nem sequer imaginávamos em nossa infância. E, aqui, a medida mais indicada não é impedir totalmente o acesso a essas novidades, mas sim estarmos muito bem-preparados e informados para educá-los de maneira que haja o uso correto destas tecnologias.

Recentemente, três casos me chamaram a atenção. O primeiro foi da publicidade de uma Telecom alemã, na qual pais foram alertados para a possibilidade das fotos de seus filhos, quando expostas nas redes sociais, serem utilizadas com uso de IA para fins criminosos. Esse anúncio destaca um recado especial direcionados aos pais com relação ao “Sharenting” ou exposição excessiva e temerária dos filhos em redes sociais. Por meio de alertas constantes, empresas e até órgãos governamentais podem educar a sociedade para que todos criem hábitos saudáveis, especialmente nas redes sociais, e possam proteger a imagem de crianças e adolescentes.

Outro caso de grande repercussão ocorreu no ambiente do TikTok: por meio de IA, usaram-se fotos de crianças assassinadas para simular como elas estariam atualmente e criar vídeos supondo que elas mesmas contariam como os crimes de suas mortes aconteceram. Tais vídeos repercutiram negativamente e a plataforma tem sido pressionada para banir tais conteúdos com mais rapidez.

E, por último, ainda mais recente, temos o caso de alunos de uma escola no Rio de Janeiro que utilizaram uma ferramenta de deepfake para gerar imagens falsas de nudes de colegas. Esse uso indevido da tecnologia tem sido notado em outros países também, como em escolas nos Estados Unidos.

Pais, educadores e sociedade têm papel fundamental na discussão sobre o uso correto da IA e das novas tecnologias. Assim, a estratégia nacional de IA deve estar galgada também no pilar de educação sobre o tema por meio de um plano de literacia digital para que a evolução desta tecnologia ocorra de forma equilibrada e sustentável.

Não podemos ignorar o fato de que crimes existem independentemente da tecnologia e que, sim, a IA pode ser uma facilitadora para que pessoas mal-intencionadas a utilizem para ampliar sua atuação. Mas a união de uma boa orientação na escola, em casa e a consciência social é uma importante forma de ajudar a superar os desafios que se apresentam.