IBM: PL da IA tem carência de olhar mais especializado

Thaís Monteiro
30 de maio de 2023 - 6h03

No início deste mês, o presidente do Senado e do Congresso Nacional, Rodrigo Pacheco (PSD-MG), apresentou ao Senado o PL 2.338/2023, projeto de lei voltado à regulamentação da inteligência artificial (IA) no Brasil, que cria o Marco Legal da Inteligência Artificial. O PL está em fase de análise pelas comissões temáticas do Senado Federal.

Líder de relações governamentais e assuntos regulatórios na IBM Brasil, Danilo Macedo: “O setor está empenhado em colaborar neste processo e avançar com a sociedade” (Crédito: Divulgação/IBM Brasil)

A discussão não é de hoje. Em 2021, a Câmara dos Deputados aprovou o Projeto de Lei 21, de 2020, com a intenção de criar um marco legal para o desenvolvimento e uso da IA no País. Após a aprovação, o projeto seguiu para tramitação no Senado. Uma comissão de juristas foi reunida para avaliar os projetos e propor mudanças.

Segundo executivos de empresas especializadas no uso de inteligência artificial, o PL apresenta a possibilidade de barrar a disseminação de notícias falsas, evitar preconceitos e incitar a violência.

Por outro lado, propõe vigilância em excesso, que pode comprometer a privacidade dos usuários e a liberdade de expressão na internet, além da coleta massiva de dados.

relacionado

PL da Inteligência Artificial: benefícios, desafios e impactos

Por sua vez, desenvolvedores de sistemas de IA trabalham em conjunto com grupos de discussão e associações em prol de uma “regulação equilibrada, que mitigue riscos aos cidadãos e, ao mesmo tempo, não prejudique o avanço tecnológico do País”, descreve o líder de relações governamentais e assuntos regulatórios na IBM Brasil, Danilo Macedo.

Macedo dividiu suas opiniões sobre o PL da Inteligência Artificial. A IBM tem sua própria plataforma destinada à IA, o Watson.

Meio & Mensagem – Quão necessária é a regulamentação?
Danilo Macedo – A inteligência artificial é uma tecnologia que está presente no cotidiano das pessoas. Hoje, 84% das pessoas no mundo usam um dispositivo ou serviço habilitado com IA. No Brasil, de acordo com a pesquisa Global AI Adoption Index 2022, conduzida pela Morning Consult para IBM, 41% das empresas no País já implementaram ativamente inteligência artificial em seus negócios, um percentual que está em constante evolução. Nesse cenário, é necessário implementar a tecnologia com ética, transparência e a governança adequadas. E aqui vai mais um dado importante: 88% dos líderes latino-americanos reconhecem a importância da IA ética segundo o estudo do IBV, “Ética da IA em ação: um guia empresarial para progredir na IA confiável”. Na IBM, defendemos uma regulação precisa da IA, baseada na mitigação de riscos. As políticas devem refletir as distinções entre aplicações de maior e de menor risco. Por exemplo, os riscos de um veículo autônomo que circula na cidade não são os mesmos de um veículo autônomo usado no plantio de safras. Essas distinções são fundamentais para nos permitir buscar uma regulamentação mais adequada e equilibrada, dado que ela considera a proteção necessária à sociedade no que tange ao uso da IA como objetivo maior da regulação, alcançando ainda a preservação e o incentivo à inovação tecnológica no segmento.

M&M – Qual é sua avaliação sobre os aspectos propostos pela PL? Quais são os pontos positivos e negativos?
Macedo – No mundo globalizado em que vivemos, é essencial que a regulação de IA fortaleça a confiança em seu uso sem sufocar a inovação, ao mesmo tempo em que estabeleça salvaguardas nos casos de uso inadequado para que correções sejam feitas. A nova proposta apresentada pelo Senado, assim como qualquer outra, deveria garantir maior participação de especialistas em IA em sua formulação legislativa para chegarmos a uma regulação adequada, que mitigue riscos e estimule a inovação no Brasil. A carência desse olhar mais especializado leva a definições muito amplas, ou mesmo à falta de clareza em pontos importantes, como a falta de diferenciação efetiva entre sistemas de alto risco e os demais, e a falta de distinção entre desenvolvedores e fornecedores de IA dos operadores e implementadores, gerando dúvidas sobre as responsabilidades de cada grupo. A legislação deve levar em consideração as diferentes partes e seus respectivos papéis no ecossistema de IA e atribuir responsabilidades de acordo.

relacionado

Inteligência artificial: o que são modelos de linguagem e para que servem

M&M – De que forma isso impacta o desenvolvimento de IA pela IBM?
Macedo – Na IBM, priorizamos a criação de governança de IA responsável desde seu início. Acreditamos que esses sistemas devem privilegiar a privacidade das pessoas e os direitos dos titulares dos dados. Nessa linha, é fundamental que a regulamentação em torno da IA considere três princípios muito importantes: primeiro, que o propósito da IA é potencializar a inteligência humana, não a substituir; segundo, que os dados e os conhecimentos gerados por esses dados pertencem ao seu criador; e terceiro, que tecnologias como a IA devem ser transparentes, explicáveis e mitigar vieses prejudiciais e inapropriados. Temos contribuído com as discussões e defendido uma regulamentação precisa da IA em todo o mundo, a fim de estabelecer regulamentações de usos responsáveis. Estamos trabalhando, inclusive, junto ao Fórum Econômico Mundial, que atua com um grupo multissetorial para promover a ética na tecnologia, em projeto intitulado Uso Responsável da Tecnologia. Aliás, mais detalhes desse esforço são mostrados no relatório Uso Responsável da Tecnologia: o estudo de caso da IBM , que é de autoria conjunta do Fórum Econômico Mundial e do Centro Markkula de Ética Aplicada da Universidade de Santa Clara.

M&M – Quais são as repercussões que acontecem no mercado desenvolvedor desde a finalização do texto?
Macedo – O setor de tecnologia no Brasil, que abrange empresas de diferentes portes e atuações, sempre busca participar e contribuir nas discussões com sua experiência e conhecimento na área. Associações como a ABES e a Brasscom estão trabalhando junto às empresas de tecnologia, algumas delas referências no desenvolvimento e na implantação de IA em diversos outros setores, como saúde, meio ambiente, educação, agricultura, entre outros, para fornecer esta visão mais especializada que é necessária para que tenhamos uma regulação equilibrada, que mitigue riscos aos cidadãos e, ao mesmo tempo, não prejudique o avanço tecnológico do País. Assim como defendemos a diversidade no desenvolvimento de IA para a mitigação de vieses, ela também é fundamental nas discussões para a sua regulação. O setor está empenhado em colaborar neste processo e avançar com a sociedade.