Anunciantes têm novas dúvidas sobre a IA do Google

Meio & Mensagem
1 de março de 2024 - 12h34

*Com informações do Ad Age

Os anunciantes têm novas dúvidas sobre a IA do Google depois que um de seus chatbots mais avançados, o Gemini, passou por problemas e precisou ser retirado do ar. 

(Crédito: Photo for Everything/AdobeStock)

Uma IA semelhante está sendo incorporada em uma ferramenta empresarial importante usada por grandes agências parceiras. O Google conduziu testes em larga escala e confirmou que a solução está livre do problema que atrapalhava o Gemini, afirmou um porta-voz do Google Cloud ao Ad Age.

Ainda assim, alguns profissionais de marketing reavaliavam a rapidez com que poderiam adotar a tecnologia do Google se a lógica falha de seus bots abrandasse o ritmo da inovação, dizem líderes publicitários.

As consequências decorrem dos últimos problemas envolvendo o Gemini. Na semana passada, a IA demonstrou uma tendência de produzir imagens historicamente imprecisas, levantando alarmes sobre preconceitos nos modelos de IA. O chatbot rejeitou solicitações de usuários quando os consideraram insensíveis, às vezes de forma incorreta, e forneceu respostas que pareciam manipuladas para causar o mínimo de ofensa cultural.

Uma tempestade nas redes sociais eclodiu depois que os usuários da ferramenta compartilharam os resultados com imagens de nazistas multiétnicos e dos fundadores dos EUA não-brancos. O resultado da IA ​​indicou que as equipes do Google projetaram os resultados para infundir no bot princípios de diversidade que poderiam inibir sua precisão.

A resposta da companhia também sugere a gravidade do problema. A gigante da tecnologia suspendeu a capacidade do Gemini de gerar imagens representando pessoas pelo menos nas próximas semanas. Em um memorando aos funcionários , o CEO Sundar Pichai classificou os resultados instáveis ​​da IA ​​como “completamente inaceitáveis”, de acordo com o Semafor.

Uma metáfora para questões de IA

As ambições de IA do Google permearam toda a empresa, especialmente no seu negócio de publicidade. À medida que o Gemini foi lançado para os consumidores, ele também foi incorporado a ferramentas empresariais para ajudar as empresas, incluindo grandes holdings de publicidade.

A gigante da tecnologia está competindo com outros provedores de IA, como OpenAI – que é apoiado pela Microsoft – Meta e Amazon para fornecer ferramentas de publicidade baseadas em IA, que podem automatizar a criação e compra de anúncios. À medida que a concorrência se intensifica, a falha pode minar a confiança no Google e prejudicar a sua posição na corrida.

Anunciantes dizem que o problema está causando um efeito inibidor nos círculos publicitários. Um deles aponta que “a IA é muito capaz de criar conteúdo desagradável. Isso nos preocupa, mas não é um empecilho”.

“Em algum momento gostaríamos de fazer automação total”, diz outro. Com o último acontecimento, o Google poderá desacelerar seu roteiro e também se tornar cauteloso demais, disse o anunciante.

Não estava claro como os problemas enfrentados pelo consumidor da Gemini afetariam os anunciantes que têm acordos empresariais de IA com o Google. Contudo, poderia atrasar o o lançamento de modelos de próxima geração para profissionais de marketing.

IA do Google e PMax

A suspensão da geração de imagens no chatbot público mão afetará sua principal plataforma de publicidade de IA, Performance Max, de acordo com um porta-voz do Google. PMax é uma ferramenta de marketing de desempenho que automatiza a inserção de anúncios nas propriedades do Google, incluindo o YouTube. A companhia também incorporou IA generativa no PMax, para que possa gerar textos e imagens para campanhas.

Ainda, a big tech ainda não adicionou os modelos de IA e geração de imagens do Gemini ao PMax, mas tinha planos para fazê-lo na semana passada. A big tech anunciou que traria o Gemini e as mais recentes ferramentas de geração de imagens para o PMax.

relacionado

Google integra novos recursos de IA generativa ao PMax

Em um post, o Google disse que adicionaria o gerador de imagens conhecido como Imagen 2 ao PMax. O Imagen 2 faz parte da oferta empresarial de IA chamada Vertex, que é usada por holdings de publicidade, incluindo Dentsu, Accenture e Omnicom Media Group, de acordo com outra postagem no blog do Google. Um porta-voz do Google Cloud disse ao Ad Age que o Imagen 2 está disponível no Vertex apenas para clientes da lista de permissões do Cloud.

Embora a companhia tenha confirmado que as imprecisões relacionadas à imagem vistas no Gemini não se estendem ao Vertex, ela não abordou se as correções relacionadas ao texto do Gemini afetam o Vertex. Procuradas, Dentsu, Accenture e OMG não quiseram comentar.

Vertex é essencialmente uma área restrita para que anunciantes e grandes empresas experimentem os modelos de IA e machine learning do Google. A solução os ajuda a desenvolver e implementar operações relevantes para seus negócios.

Os problemas com o Gemini podem levantar dúvidas entre os anunciantes sobre os processos de tomada de decisão das ferramentas mais amplas de publicidade de IA do Google, diz Adam Simon, diretor-gerente do IPG Media Lab. A noção de que a plataforma poderia fazer julgamentos tendenciosos sobre quais anúncios devem ser veiculados e para quais públicos – mesmo que o cenário seja improvável – é suficiente para prejudicar a confiança dos anunciantes, segundo ele.

Ramificações de longo prazo

Embora o Google resolva o problema e provavelmente sofra consequências mínimas no longo prazo, os anunciantes agora estão hiperconscientes dos riscos de usar IA para gerar qualquer tipo de criativo publicitário, disse Simon.

No mês passado, ao lançar o Imagen 2 como seu criador de imagens de próxima geração, o Google deu luz às proteções extras como um recurso de seu desenvolvimento de IA.

relacionado

Sustentabilidade divide protagonismo com IA e 5G

À época, Eli Collins, vice-presidente do laboratório de pesquisa de IA do Google DeepMind, citou a adição de proteções técnicas para limitar resultados problemáticos, como conteúdo violento, ofensivo ou sexualmente explícito. “Estas medidas adicionais, claro, acabaram por causar os mesmos problemas que foram criadas para resolver”, comentou em post no blog.

Essa ironia pode ter efeitos duradouros, levantando mais suspeitas quando as plataformas tecnológicas afirmam implementar medidas de segurança nos seus modelos de IA. A declaração é de Andrew Frank, vice-presidente de pesquisa e analista do Gartner.

Além disso, o executivo afirmou estar preocupado com o fato de que uma abordagem cautelosa dos fornecedores de IA poderia resultar em uma sufocação das capacidades da IA ​​no futuro “O contraponto a isso é: as empresas diluem tanto a IA que ela produz apenas imagens genéricas, e estamos evoluindo para um mar de mesmice?”, indagou.

*Tradução por Giovana Oréfice