Responsabilidade social e ética no metaverso

Amanda Schnaider
15 de março de 2023 - 6h00

Definitivamente, 2022 foi o ano do metaverso. A própria palavra ficou na segunda posição do ranking da Oxford de ‘Palavras do Ano’. Até outubro do ano passado, o uso do termo, que teve o seu primeiro registro em 1992, no romance de ficção científica Snow Crash de Neal Stephenson, aumentou quatro vezes em relação ao ano anterior no Oxford English Corpus.

O hype em torno do conceito de ambientes virtuais imersivos em que é possível interagir com outros usuários e seus avatares foi muito impulsionado pelo Facebook, que após mudar de nome para Meta, divulgou os seus planos de construção do metaverso. Na época, Mark Zuckerberg afirmou que a Meta se iria se tornar “metaverse first” ao invés de “Facebook first” e que enxerga o metaverso como um sucessor da internet.

De lá para cá, outras empresas de tecnologia, startups e desenvolvedoras de videogame, como Microsoft, Roblox, Epic Games, Nvidia passaram a se dedicar ainda mais na construção desses espaços virtuais imersivos. Além disso, diversas marcas como Nike, Renner, Burger King e Coca-Cola, viram no metaverso uma oportunidade de se conectarem com os seus consumidores.

Apesar de ainda estar presente na programação do South by Southwest, inclusive com uma trilha inteira dedicada a ele, a “XR & Metaverse”, neste ano, a discussão a respeito do metaverso deu lugar à da inteligência artificial, muito por conta da explosão causada pelo ChatGPT, da OpenAI. Logo, a discussão envolvendo o metaverso no SXSW 2023 foi levada para outro nível. Além do entendimento da palavra, as palestras do festival abordaram as suas implicações éticas e sociais.

No painel “Responsible AI & Human Rights in the Metaverse”, Vasco Pedro, cofundador e CEO da Unbabel, empresa que combina IA com traduções humanas em tempo real, questionou Jerome Pesenti, ex-vice-presidente de inteligência artificial da Meta, sobre questões éticas que envolvem o metaverso, como a dificuldade moderação de conteúdo e perpetuação de padrões sombrios que refletem os preconceitos existentes na sociedade.

A dificuldade de moderação no metaverso não é exclusividade só dele, mas um problema que as plataformas sociais enfrentam há tempos, devido a sua complexidade. Mas, ao atingir os ambientes virtuais imersivos, essa complexidade se eleva. Na visão de Pesenti, a inteligência artificial é imprescindível para levar escala à moderação de conteúdo em ambientes virtuais. Ele revela que a Meta tem 30 mil funcionários trabalhando com a moderação de conteúdo em suas plataformas, mas que, em termos de número de ações de conteúdo e sinalização, elas conseguem fazer menos de 5% do total. “Hoje, quase tudo é feito com inteligência artificial”.

E mesmo a inteligência artificial não é capaz de identificar todo o discurso de ódio que acontece na plataforma. Por outro lado, o ex-VP explica que a IA é capaz de sinalizar o suficiente para criar barreiras para os maus usuários. “As estatísticas mostram que fomos capazes de lidar com os discursos de ódio e reduzi-los”, revela.

Ter políticas do uso correto e saudável das plataformas sociais, incluindo o metaverso, é essencial, mas o ex-funcionário da Meta reforça que, do ponto de vista do usuário, é menos interessante saber se aquele tipo de conteúdo está infringindo alguma política da empresa e mais sobre entender se aquela experiência está sendo prejudicial para ele. “A melhor maneira de compreender isso é pensando na experiência do usuário. Qual é a tolerância das pessoas para certos tipos de conteúdo? E você pode adaptar o sistema a eles? Você pode dar o controle para elas?”, ponderou.

Apesar disso, durante toda a palestra e até quando foi questionado pela plateia sobre alguns espaços virtuais, como os VR chats, não terem moderação, Pesenti foi enfático: “Você não pode administrar um negócio onde há moderação zero. Você precisa ter algum tipo de moderação”. Para ele, a grande questão é entender quanto moderação será necessária e quanto controle deve ser dado ao usuário.

Preconceito e segregação

Pedro, CEO da Unbabel, levantou uma questão que tem gerado muito debate na indústria, que é a compra e venda de imóveis no metaverso. Esses espaços virtuais imersivos se tornaram ambientes propícios para as especulações imobiliárias. No caso da plataforma The Sandbox, por exemplo, é possível adquirir terrenos diretamente dos desenvolvedores, entretanto, o mercado secundário também já uma realidade.

Segundo dados da consultoria McKinsey, corporações, capitalistas de risco e private equity investiram US$ 120 bilhões no metaverso entre janeiro e maio de 2022, mais que o dobro do que foi investido em 2021, cerca de US$ 57 bilhões. O CEO da Unbabel questionou Pesenti se esse fator não poderia segregar algumas comunidades dentro do metaverso ou até mesmo criar comunidades mais ricas do que outras, em reprodução ao o que acontece no mundo físico.

“O metaverso pode ser o maior equalizador”. É assim que o ex-VP de IA da Meta vislumbra esses espaços virtuais imersivos, que sejam ambientes sem barreiras, onde as pessoas possam andar livremente, fazer negócios, viajarem para outros lugares do mundo e se conectarem. “Você pode ser quem você quiser e estar onde quiser no metaverso”.

Padrão de beleza

Justamente por ser um ambiente onde as pessoas podem se transformar no que quiserem, o CEO da Unbabel indagou o ex-funcionário da Meta se isso não poderia ser um fomento ao padrão de beleza que já é imposto na vida. “Estaríamos adotando um ideal de beleza onde todos nós seríamos Barbies e Kens?”

Mais uma vez, Pesenti tem uma visão otimista em relação às questões de identidade e beleza no metaverso. “Estamos mais inclinados a criar uma enorme nova diversidade de pensamento”. Além de as pessoas poderem se representar de uma forma fisicamente possível, no metaverso essa representação pode ser fisicamente impossível. E essa é a beleza desses ambientes, para o ex-VP da IA da Meta. Porém, Pesenti faz uma ressalva: tem que haver limites. “Se não houver limites, você provavelmente criará algo que seja tão ofensivo para alguém que até se torne ilegal na maioria dos lugares”.

Além do hype

Como dito no início, o metaverso foi, e está sendo, muito utilizado pelas marcas em todo o mundo para criar experiências virtuais para os seus consumidores. No painel “Building a Sustainable Economy in the Metaverse”, conduzido por Dan Burgar, CEO da Frontier Collective, e com participação de Nonny De La Peña, fundadora do Programa de Mídias Narrativas e Emergentes da Universidade Estadual do Arizona, a CEO e cofundadora da empresa de realidade aumentada VNTANA, Ashley Crowder, disse que o problema é que muitas vezes as marcas constroem os espaços ou as ativações nesses espaços virtuais e depois tentam achar o problema que precisam resolver. Na sua visão, essa lógica deveria estar invertida.

Cortney Harding, fundadora da agência Friends With Holograms, que também estava na discussão, entende que o que falta é justamente o propósito, a razão pela qual as empresas estão desenvolvendo ou entrando esses espaços virtuais imersivos. “Precisa ter um ponto. E ponto também pode ser construir um belo espaço para passar o tempo com seus amigos e estar em comunidade, mas você precisa delinear qual é esse ponto antes de começar”.

Neste sentido, Pesenti, ex-VP da IA da Meta, defende que o grande desafio de agora é entender como fazer com que essas experiências no metaverso não sejam somente entretenimento, mas que realmente ensinem ou acrescentem algo à vida das pessoas.