Qual é o impacto da sinalização de conteúdo gerado por IA?

Giovana Oréfice
11 de dezembro de 2023 - 6h00

A partir do ano que vem, conteúdos publicitários gerados digitalmente ou por inteligência artificial (IA) deverão ter sinalização no Facebook e Instagram. Com a diretriz, o objetivo da Meta é auxiliar usuários no entendimento de anúncios sobre questões sociais, políticas e eleições.

Deep fakes e desinformação estão entre as preocupações que crescem com a sofisticação da IA (Crédito: WrightStudio Adobe Stock)

O anúncio, feito em novembro, acontece em meio à ascensão desenfreada da inteligência artificial. Seu uso e desdobramentos vêm proporcionando diversos benefícios à publicidade, uma vez que é capaz de acelerar processos e ampliar olhares e possibilidades criativas. Por outro lado, pode colocar em xeque a veracidade de conteúdos com a evolução e sofisticação da tecnologia.

Neste sentido, Sthefan Ko, diretor-executivo de criação na iD\TBWA, aponta que é importante entender a diretriz da Meta no contexto das eleições presidenciais nos Estados Unidos. A ação chega para minimizar a criação de conteúdos que possam confundir a população e ampliar o impacto das fake news. “Entendo que essa movimentação da plataforma visa proteger de alguma forma o consumidor. Porque, ao mesmo tempo em que a IA é maravilhosa e inspiradora, mal utilizada pode ser perigosíssima”, endossa.

relacionado

IA: quais são as diferenças nos modelos de linguagem?

Nos últimos meses, imagens falsas com toque de realidade — graças à inteligência artificial no âmbito político — viralizaram nas redes. Foi o caso da foto da falsa prisão de Donald Trump e um vídeo deep fake do atual presidente dos Estados Unidos, Joe Biden. No início do mês passado, Biden emitiu uma ordem executiva sobre inteligência artificial. O propósito é dar destaque à mitigação de riscos e ao desenvolvimento responsável da tecnologia.

“Em tempos de fake news e deep fake, ter essa sinalização é um movimento necessário, ainda mais sabendo como as pessoas compartilham conteúdos nas redes sem nenhum questionamento prévio”, afirma Sabrina Villar, diretora de criação da Wunderman Thompson. Para ela, a importância de informar os usuários sobre a origem dos conteúdos é a transparência.

Sinalização de IA: grande público X indústria

A IA alcançou a sociedade na mesma medida em que chegou às empresas. O ChatGPT democratizou o acesso à tecnologia. Na sequência, o Google criou o Bard sinalizando para a corrida das big techs para ter a liderança no segmento. Nas redes sociais, usuários trouxeram à tona diversas outras plataformas que utilizam a IA para os mais variados fins, como edição de vídeos, criação de imagens, apresentações etc.

Enquanto a indústria já tem um olhar mais treinado e aprofundado para o conteúdo originado por IA, para o grande público, muitos detalhes passam despercebidos. O efeito cascata leva à disseminação de notícias falsas podendo gerar pânico e especulações, entre outros. “Já vi diversas vezes pessoas no grupo da família compartilhando deep fakes como se fossem reais. Quem nunca passou por isso?”, indaga Ko, da iD\TBWA. “O aviso que a Meta está nos dando, principalmente em alguns segmentos de serviço e consumo, e pensando no futuro, é essencial”, acrescenta.

relacionado

Itaú Unibanco cria plataforma para combater fake news

Quando questionados sobre o cunho educacional acerca dos usos da IA na publicidade, os profissionais de mídia apontam que o movimento pende mais para a conscientização. “É menos sobre educar o público e mais sobre garantir que tenha consciência do que está consumindo, assim como foi com os posts pagos, em que os influenciadores passaram a deixar nítido o que é publicidade e o que não é”, exemplifica Alvin Shiguefuzi, diretor de criação da Wunderman Thompson.

Já Ko, da iD\TBWA, confessa que não é papel da indústria ensinar as pessoas a fazerem essa distinção, mas é necessário criar meios de informar ao grande público que nem tudo é 100% real. “Esse, sim, é um papel importante da indústria”, diz.

Tendência pontual?

Além da Meta, a Microsoft anunciou medidas para auxiliar no combate à desinformação nos Estados Unidos. Ainda em novembro, a big tech de Bill Gates comunicou que oferecerá serviços que ajudem políticos norte-americanos a se protegerem contra criações de IA, como os deep fakes.

Em postagem no blog oficial, a Microsoft aponta que os candidatos à eleição “devem ser capazes de afirmar quando o conteúdo provém da sua campanha e ter recurso quando a sua imagem ou conteúdo for distorcido pela IA com o propósito de enganar o público durante uma eleição”.

Entre as medidas, está o fornecimento de marca d’água que identifique a origem do conteúdo de indivíduos e demais organizações. Isso protegeria a veracidade do conteúdo e auxiliaria na identificação de possíveis adulterações.

Para Shiguefuzi, da Wunderman Thompson, é bem provável que outras plataformas adotem medidas semelhantes de sinalização de IA. Ao mesmo tempo, o diretor de criação da iD|TBWA afirma que esse é um movimento necessário. “Estamos lidando com algo muito rico de possibilidades e que, mal utilizado, pode criar grandes estragos. Como sabemos, o poder das fake news é gigantesco e, com as ferramentas da IA generativa, os cuidados precisam ser redobrados”, alerta.