Transparência com GenAI é chave para a confiança do cliente

Sergio Damasceno Silva
18 de julho de 2024 - 6h03

Transparência com GenAI é chave para a confiança do cliente. Estudo da IBM, feito com três mil dirigentes, revela os principais pontos relacionados à ferramenta, detalhados pelo gerente-geral de IBM Consulting Brasil, Marcelo Flores (Crédito: Divulgação)

O IBM Institute for Business Value (IBV) apurou: 82% dos CEOs brasileiros acreditam que a transparência da inteligência artificial generativa (GenAI), assim como outras novas tecnologias, são elementos-chave para conquistar a confiança dos clientes.

Por isso, 62% dos entrevistados concordam que a governança para GenAI deve se estabelecer à medida que as soluções são projetadas em vez de serem abordadas somente após a implantação.

GenAI avançada como vantagem competitiva

Realizado com três mil CEOs de mais de 30 países e 26 indústrias, inclusive o Brasil, o estudo global anual da IBM, The CEO Study 2024, destaca ainda que 51% dos CEOs brasileiros entendem que a vantagem competitiva das suas empresas dependerá de quem tem a GenAI mais avançada.

Além disso, 57% dos altos executivos do País relatam que sua equipe já tem o conhecimento e as habilidades necessárias para incorporar IA generativa aos sistemas de suas operações.

Por outro lado, 59% reconhecem que estão com dificuldades para preencher cargos-chave que envolvem a tecnologia.

GenAI: uso de dados, mão de obra e ROI

O gerente-geral da IBM Consulting Brasil, Marcelo Flores, detalha aspectos do estudo, comenta sobre o uso de dados, transformação digital, qualificação da mão de obra e ROI, entre outros temas.

ProXXIma – Sobre a governança, o Brasil e o mundo estão em processos de definições regulatórias sobre o uso de IA.

Com base nas legislações de uso e privacidade de dados e constantes movimentos, como estabelecer governança nesse ambiente?

Marcelo Flores – Desde a década passada, o que temos visto é o aumento contínuo da disponibilidade de dados.

É a evolução da maneira como os consumimos (analytics, machine learning, IA tradicional) e exponencial na acessibilidade, seja por meio de aplicações em nuvem (corporativo) ou em aparelhos portáteis (sociedade, em geral).

Assim, nos últimos anos, à medida que sofisticamos a maneira que consumimos os dados, e com a escala do uso de IA, temos visto novas regulamentações de LGPD, respeito à diversidade propriedade intelectual, ESG etc.

Com isso, ao longo dos últimos anos, os processos de governança nas empresas que têm implementado projetos de IA visam gerar eficiência, produtividade, melhorias no NPS ou habilitar novos modelos de negócio já foram adaptados, considerando as novas regulamentações.

GenAI e a governança como realidade

Ou seja, podemos dizer que a preocupação com a governança já é realidade, inclusive nos termos dos contratos B2B, na relação entre empresas, clientes e fornecedores.

E é necessário manter forte processo de curadoria do resultado de consumo dos dados para ajustar, por exemplo, as informações de origem e os vieses históricos ao atual momento de nossa sociedade.

Assim, se já tínhamos o desafio de regulamentação na governança do dia a dia das empresas para escalar o uso da IA tradicional, o surgimento da IA generativa com a respectiva intensidade e rapidez que está sendo inserida no dia a dia nos traz desafio ainda maior.

Não só na necessidade de ajustes à regulamentação, mas também na governança.

E a IA generativa traz o risco das “alucinações” que vem da maior horizontalidade na disponibilidade dos dados combinados com linguagem natural.

O que pode causar grave impacto na sociedade, a exemplo da possível manipulação de pessoas e votos em momentos de eleições.

E, sem dúvidas, o risco é maior quando pessoas mal-intencionadas estão por trás da geração de dados que vão gerar cada conteúdo.

Por isso, apenas a curadoria já não basta, o que torna a ética e a responsabilidade tão importantes.

Colaboração com reguladores e demais players

Adicionalmente, é essencial que as empresas não apenas estabeleçam governança interna, mas participem ativamente de diálogos e colaborações com órgãos reguladores e outros players da indústria.

A educação contínua e o treinamento de colaboradores em práticas éticas e regulatórias são cruciais para manter a cultura organizacional comprometida com a governança robusta da IA.

Portanto, implementar processos de auditoria e monitoramento contínuos assegura que as práticas permanecem eficazes e em acordo com as regulamentações em constante evolução.

Transparência nas práticas de IA, incluindo a comunicação clara, tanto interna quanto externa, fortalece a confiança de todos os stakeholders envolvidos.

Por fim, segurança de dados e a definição clara de responsabilidades dentro da organização são pilares fundamentais para governança eficaz e responsável da IA.

Conhecimento e habilidades

ProXXIma A pesquisa aponta que 57% dos altos executivos do País relatam que sua equipe já tem o conhecimento e as habilidades necessárias para incorporar IA generativa às operações.

Sobre o conhecimento, como se posicionam os executivos?

Flores – A ética na IA é reflexo de como as empresas se posicionam em termos de compliance e governança.

Não à toa, há grande preocupação dos executivos quando o tema é governança dos dados e de como as respostas da IA são dadas.

Nessa linha, a IBM oferece tecnologia segura e pronta para esses modelos responsáveis de uso de IA.

Como consultoria, sempre discutimos abertamente com os clientes sobre seus princípios, programas de compliance e como podem expandir essa cultura para a tecnologia que usam.

Nossos estudos mostram que 62% dos CEOs que atuam na América Latina concordam que a governança para IA generativa deve se estabelecer desde a fase inicial de cada projeto.

Na prática, isso significa que as empresas devem adotar abordagem proativa em relação à educação ética, incluindo workshops regulares e treinamentos especializados.

Melhores práticas

Além disso, criar comitê de ética em IA pode ajudar a monitorar e a garantir práticas éticas contínuas.

E, de fato, os exemplos de melhores práticas incluem avaliações de impacto ético, canais de denúncia de preocupações éticas e auditorias regulares.

Enfim, a governança da IA deve ser vista como processo contínuo, adaptando-se às novas tecnologias e regulamentações para garantir benefícios operacionais e sociais.

ProXXIma – O estudo aponta que as transformações digitais das empresas devem continuar firmes em 2024. Essa transformação foi acelerada pela pandemia.

Em que fase está essa transformação, já que pandemia para cá são quase quatro anos?

Flores – A transformação digital não é mais uma meta que as grandes companhias têm de alcançar.

O refinamento é escalar o uso da IA e definir a estratégia de uso da IA generativa.

A IA tradicional deixou de ser tecnologia experimental e está se tornando realidade nas empresas.

Evolução das estratégias

Porém, com o surgimento da IA generativa, já precisamos evoluir as estratégias de implementação e governança.

A IBM Consulting reúne mais de dez anos implementando IA com sucesso.

Porém, percebemos como os projetos de implementação da tecnologia se transformam constantemente. 

Ainda, vale observar que tecnologia é quem dispara a mudança, mas a transformação não é imediata.

A necessidade de transformação no pós-pandemia fortaleceu a demanda por consultorias de negócio.

Dessa forma, o mercado teve impulso para a digitalização nos últimos anos e, agora, vemos esse mesmo tipo de anseio em relação à IA.

Ou seja, a missão é ampliar a produtividade e a eficiência dos negócios para gerar benefícios de maneira exponencial, tendo ética, transparência, sustentabilidade e segurança como pilares.

GenAI: novas oportunidades

Com a consolidação de projetos  e rodando com eficiência, abre-se uma janela de novas oportunidades e mais tempo para que pessoas e setores possam se dedicar a tarefas que, porventura, estavam escanteadas ou mal desenvolvidas.

O tempo é um recurso escasso atualmente e projetos de IA bem implementados podem transformar a forma com que as empresas lidam com esse recurso.

Isso é um outro exemplo do refinamento que você menciona na pergunta. IA, incluindo a generativa, é potencializar ainda mais a transformação digital.

ProXXIma – Vocês citam a criação de novos modelos e oportunidades de negócios para atingir novos patamares de ROI. Em que medida a IA pode ser estratégica justamente para melhorar o ROI?

Flores – Na verdade, a implementação da IA deve, desde o início, estar conectada ao retorno de investimento de cada projeto.

Quando realizamos essa consultoria, isso fica evidente na troca com os clientes.

Precisamos aplicar a tecnologia inserida em um modelo de operação, integrando pessoas, plataformas e processos para que a IA ganhe escalabilidade e seja eficiente.

Quando isso é projetado com sucesso, estamos falando de um retorno de investimento até 2,6 vezes superior, de acordo com pesquisa recente que realizamos.

Superação dos custos de implantação por GenAI

Portanto, os atuais casos de sucesso que já garantem retorno geram benefícios e superam os respectivos custos de implantação são os de áreas vitais para resolver questões quanto ao atendimento ao cliente, às operações internas, à produtividade e na prevenção de ciberataques.

Vale comentar que, ao mesmo tempo que a GenAI ajuda a aprimorar os sistemas de defesa cibernética, amesma tecnologia contribui com o aperfeiçoamento dos ciberataques realizados por criminosos.

Enfim, para maximizar o ROI, é crucial personalizar as soluções de IA para os setores específicos da empresa.

Por exemplo, no varejo, a IA pode ser usada para prever demandas e otimizar a cadeia de suprimentos, enquanto, no setor financeiro, é possível melhorar a detecção de fraudes e a gestão de riscos.

Além disso, a mensuração contínua de desempenho é vital.

E isso envolve o uso de KPIs específicos para monitorar o impacto da IA em tempo real, permitindo ajustes rápidos e garantindo que os benefícios superem os custos de forma consistente.

Qualificação da mão de obra

ProXXIma – Outro dado citado é a qualificação de mão de obra que, independentemente da IA, sempre foi um problema para a TI.

Há várias pesquisas que apontam o déficit dessa qualificação e, agora, a especialização em IA é mais um fator. O que pode ser feito para ampliar a qualificação?

Flores – Trabalhamos em colaboração intensa com clientes e parceiros para adaptar soluções direcionadas às suas necessidades de contratação e qualificação.

Dessa forma, com esse trabalho consultivo, conseguimos lidar com alta rotatividade, refinar tecnologias de recrutamento, desenvolver produtividade da força de trabalho e até lidar com escassez de skills.

Assim, nesse cenário, oferecemos ferramentas personalizadas em consultoria, tecnologia e serviços.

Além disso, pensando em um escopo maior e as necessidades do mercado nacional e internacional por qualificação de mão de obra, a IBM tem o compromisso global de formar 30 milhões de pessoas até 2030 para democratizar as oportunidades e preencher a crescente lacuna de profissionais habilitados nas atuais ferramentas.

Iniciativas globais e regionais

Para tanto, temos diversas iniciativas globais e regionais, além de manter mais de 170 novas alianças com instituições acadêmicas e a indústria.

Também criamos a plataforma IBM SkillsBuild, que oferece conteúdo gratuito para estudantes, professores e profissionais com perfis e competências relacionados à tecnologia.

A IBM tem o compromisso de treinar globalmente 2 milhões de pessoas em IA, até 2026, mantendo foco em comunidades sub-representadas.

ProXXIma – Como a IBM Consulting trabalha para expandir o conhecimento sobre IA com parceiros no Brasil?

Flores – Operamos com abordagem de ecossistema aberto, estabelecendo parcerias com algumas das empresas de software mais visionárias do mundo para ajudar clientes e parceiros a acelerarem a adoção da IA mais adequada aos respectivos objetivos.

Resumidamente, podemos dizer que somos empresa “multi” em relação às tecnologias empregadas em cada um dos projetos.

Temos uma área chamada Client Engineering, que tem como responsabilidade desenvolver soluções em parceria com os clientes.

Assim, conseguimos entender qual o real problema do negócio, os principais gargalos e que soluções iremos utilizar para atingir os objetivos.

Seja usando IA, automação, governança, cibersegurança, atendimento ao cliente, entre outras.

Temos a etapa da descoberta e desenho da solução e é neste momento que identificamos os componentes da tecnologia que irão endereçar os problemas de negócio mapeados na sessão anterior.

Vale comentar que a IBM Consulting é a única grande empresa de consultoria que atua dentro de uma empresa de tecnologia.

Otimização de fluxos e processos pela GenAI

Assim, já nos posicionamos como parceiro de transformação das companhias brasileiras, otimizando fluxos de trabalho e processos do negócio de cada companhia.

E isso seja com a utilização de tecnologias da IBM Technology, de parceiros do ecossistema ou a partir de outras soluções de mercado que os clientes já utilizam ou desejam utilizar.

Além disso, já usamos a IA para melhorar o atendimento aos clientes, a relação com colaboradores, para gerar produtividade e eficiência em processos há cerca de dez anos.

Dessa forma, isso nos credencia como parceiro com vantagem significativa para escalar o uso da IA tradicional e implementar a IA generativa, a partir de referências sólidas, lições aprendidas e capacidade de implementação, especialmente em momento em que o tempo é variável tão importante para o atual cenário competitivo do mercado.