“Humanos com viés criam algoritmos enviesados”

Luiz Gustavo Pacete
16 de agosto de 2019 - 6h00

Nathana Sharma: “O blockchain é uma nova forma de compartilhar e armazenar valores e informações”

Inteligência artificial, aprendizado de máquina, algoritmos. Esses conceitos já são aplicados na prática e já impactam a maneira de consumo das pessoas. Mas se por um lado existe um processo cada vez maior de automatização, por outro, o processo de aprendizagem e desenvolvimento envolve um esforço humano. Neste contexto, de que maneira o olhar de pessoas reais influência na aprendizagem da máquina? Esse é um dos alertas feitos por Nathana Sharma, professora da Singularity University, que, em passagem pelo Brasil para participar do Connect Innovation, evento de relacionamento para executivos promovido pela Verizon Media, falou ao Meio & Mensagem sobre a ética aplicada à tecnologia.

relacionado

Algoritmos e o perfil do chefe de dados: as dúvidas da LGPD

Meio & Mensagem – Os algoritmos já determinam o que assistimos, consumimos, usamos e a tendência é que isso ganhe escala, qual o desafio ético? 
Nathana Sharma – As máquinas aprendem o que ensinamos a elas. Então, quando nós humanos somos enviesados, os algoritmos que criamos também serão enviesados. O que podemos fazer, de forma prática, é criar um sistema de origem ou sistema de armazenamento de informações que reúna os dados que nós queremos informar aos algoritmos e então vemos como esses algoritmos performam. E podemos usar esse mesmo sistema para julgar os vieses e então depois podemos dar um passo atrás e consertá-los. Podemos adicionar outros dados, que ajudem os algoritmos a tomarem decisões menos preconceituosas do que qualquer humano faria. Mas é difícil chegar até aqui porque muitos dos desenvolvedores são homens brancos e partem de dados enviesados. Muitos dos algoritmos que vemos hoje estão enviesados. Em breve, precisaremos dar um próximo passo em busca de um mundo mais justo.

O blockchain vem sendo vendido como uma solução para vários problemas relacionados à ética e segurança, mas quais são as pontas soltas dessa tecnologia e os desafios éticos em relação a ele?
É tudo muito novo no blockchain. Ele é mil vezes mais bacana do que o que sabemos atualmente. A partir desta perspectiva, no começo as pessoas também pensavam isso sobre a internet (ser a solução para vários problemas). Nós ainda temos um caminho de desenvolvimento fundamental porque o blockchain é uma nova forma de compartilhar e armazenar valores e compartilhar informações à moda digital. Isso é muito poderoso! Significa que podemos usar essa tecnologia para interagir uns com os outros de uma nova forma, para realizar transações com menos custos. Dito isso, qualquer tecnologia é tão boa quanto quem a está pilotando. Então, qualquer tecnologia tem o poder de se tornar abusiva.

“É difícil chegar até aqui porque muitos dos desenvolvedores são homens brancos e partem de dados enviesados”

Como a GDPR, lei de dados da Europa, ou iniciativas locais como a LGPD no Brasil, podem contribuir para melhorar essa discussão, e quais os desafios de se regular a tecnologia?
A tecnologia avançou de forma exponencial, muito mais rápido que as leis. As leis foram criadas para uma outra época e nós estamos tentando adaptá-las para o dia de hoje da melhor forma possível, mas nunca imaginamos que poderíamos obter tantas informações das pessoas e como aplicaríamos esses dados da forma que hoje fazemos.

relacionado

“Futurismo não é ficção científica”

E como lidar com este contexto de adaptação?
Precisamos ter certeza de que estamos fazendo nosso trabalho de forma ética e que os consumidores não estão oferecendo informações que eles não gostariam de dar. As novas leis podem atuar de forma bastante importante neste sentido. Vale dizer que é muito difícil interromper o desenvolvimento da tecnologia com uma regulação, principalmente estando em um mundo global onde há competição para ser o primeiro a desenvolver uma tecnologia e nem todos estão respeitando as regras. E essas tecnologias têm o potencial de fazer tanto bem! Por exemplo, se todos concordassem em compartilhar informações, na medicina teríamos processos de curas melhores, remédios melhores, porque atualmente estamos limitados pelos nossos conhecimentos do corpo humano. Precisamos de equilíbrio entre desenvolver a tecnologia para fins positivos e ao mesmo tempo respeitar os direitos humanos, liberdade e privacidade.